Théorie de l’information

L’information en analyse relationnelle n’est pas celle qu’on lit dans les journaux, mais une valeur quantitative contenue dans les messages.

Comment calculer la quantité d’information contenue dans un message verbal ou non ?

"Un acte de communication contient de l'information si, et seulement si, cet acte supprime ou réduit l'incertitude chez le récepteur" (Hörmann, p.48)

Dire "il pleut" à quelqu'un qui est en train de se promener sous la pluie, n’apporte aucune information. Mais dire "il pleut", à quelqu'un qui travaille dans un bureau sans fenêtre, apporte une certaine quantité d'information. La quantité d'information d'un message n'est pas une valeur fixe et générale ; elle dépend de la connaissance de l’interlocuteur et du contexte dans lequel se trouvent les partenaires.

L'information apportée par un élément verbal ou non-verbal, dépend de plusieurs facteurs : d'une part le nombre de possibilités que d’autres éléments auraient pu être dit (ou fait) à la place (associations paradigmatiques) ; d'autre part la rareté de l'élément émis.

Plus une information est improbable (surprenante) plus elle apporte de l'information : "La quantité d'information dépend du rapport entre l'événement réel et tous les autres événement possibles" (Hörmann, p.55)

Dans un système où certains événements sont plus probables que d'autres, la quantité d'information apportée par chaque événement varie de l'un à l'autre.

"Un système a une entropie maximale quand tous ces états possibles sont également probables. Dans ce cas l’incertitude est maximale. Dans un système qui a une entropie inférieure au maximum, certains états sont plus probables que d'autres et, par conséquent, leur réalisation a une valeur d'information moins élevée. (Hörmann, p.57)

Comment mesurer la quantité d'information ? L'unité de mesure de l'information est le bit (Binary Digit).

Un bit est la quantité d'information apportée par une réponse « oui ou non » quand les deux réponses sont équiprobables. Un coup au jeu du pile ou face apporte un bit d'information, si la pièce n'est pas tordue et si le joueur ne triche pas. Un exemple avec les carrés :

Combien de questions aux réponses équiprobables faut-il poser pour avoir la réponse sûre à la question : «Quelle case est noire ? »

Réponse : 2 questions. 1 : Est-ce dans les cases du haut ? et 2 : Est-ce à droite ? ou l’inverse.

L’information : « La case noire est celle du bas à droite » vaut 2 bits.

On remarque : information : 2 bits quand 4 possibilités de réponses (ou 2²)

Deuxième exemple :

Ici quatre questions aux réponses équiprobables sont nécessaires pour répondre à la question : « Où est le carré noir ? ». Donc information = 4 bits et 16 possibilités

DEFINITION : Le nombre de bits est la puissance à laquelle il faut élever 2 pour trouver le nombre de possibilités de choix.

Mais il est rare dans la vie quotidienne d’avoir affaire à des carrés ? Peut-on mesurer l’information contenue dans n’importe quelle phrase ?

Telle que celle-ci ?

Pour connaître la quantité d’information contenue dans cette phrase, il faut connaître la probabilité d’apparition de chaque mot (ou de chaque expression) compte tenu de son contexte.

En cachant chaque élément de la phrase et en demandant à quelques centaines de personnes de restituer la partie manquante, nous aurons la probabilité d’apparition de cette partie, « ici et maintenant ».

Il ne s’agit pas d’une réalité universelle. On trouverait par exemple que le déterminant « le » a 70 % de chances d’être trouvé ; sa probabilité est donc de 0,7. Il apporte peu d’information. En revanche « de la voisine » ou « du quartier » n’ont à peu près aucune chance d’être trouvé par les personnes interrogées : ces parties de la phrase apportent une très grande quantité d’information, car ils sont très peu probables. En effet, on se rend bien compte qu’à la place de ces expressions on aurait pu trouver une quasi-infinité d’autres mots et expressions.