Aller au contenu principal
L'Atelier
← Toutes les chroniques

Chronique · Techno-archéologie

Pourquoi un chatbot de 1966 explique-t-il encore pourquoi on croit nos IA ?

Réponse courte : parce que le problème n'a jamais été la machine, c'est nous. En 1966, ELIZA, un programme de quelques règles écrit au MIT par Joseph Weizenbaum, faisait déjà croire à ses utilisateurs qu'on les comprenait. Soixante ans plus tard, les études de Turing en ligne montrent que les humains jugent d'abord le style et la chaleur, pas l'intelligence. Et en avril 2025, OpenAI a dû retirer une mise à jour de GPT-4o jugée trop flatteuse. L'« effet ELIZA » n'est pas une anecdote de musée : c'est le mode d'emploi caché de nos assistants.

6 novembre 2026 · Lecture ≈ 5 min · Jules Thomas

La fouille

Je suis techno-archéologue. Mon métier, c'est de soulever les vieilles cartes perforées pour voir ce qui grouille dessous. Et sous ELIZA, il grouille quelque chose de très actuel.

ELIZA a été développé entre 1964 et 1967 au MIT, sur un IBM 7094 et le système à temps partagé CTSS. Son script le plus célèbre, DOCTOR, imitait un psychothérapeute rogérien. La technique ? Repérer un mot-clé, retourner la phrase, renvoyer une question. Vous dites « ma mère me déteste », il répond « parlez-moi de votre famille ». Aucune compréhension. Zéro. Le néant avec des bonnes manières.

Le résultat a pourtant sidéré son propre auteur. Sa secrétaire lui aurait demandé de quitter la pièce pour parler seule avec le programme. Weizenbaum écrira plus tard qu'il n'avait pas imaginé qu'une exposition très courte à un programme aussi simple puisse provoquer une pensée délirante chez des gens tout à fait normaux. Il en a tiré un livre entier, Computer Power and Human Reason, en 1976, qui est en gros un long « attention, les enfants ».

Le retour de la momie

Avançons le tapis roulant du musée jusqu'en 2023. Deux chercheurs de l'UC San Diego, Cameron Jones et Benjamin Bergen, organisent un test de Turing public en ligne. Le meilleur prompt de GPT-4 passe pour humain dans 49,7 % des parties. Les humains, eux, plafonnent à 66 %. Et ELIZA, le vieux de 1966, fait 22 %. GPT-3.5 ? 20 %. Oui : la momie bat le modèle qui a lancé ChatGPT.

Le plus intéressant est ailleurs. Les participants disent avoir tranché surtout sur le style linguistique (35 %) et les traits socio-émotionnels (27 %). Pas sur le raisonnement. On ne cherche pas un cerveau, on cherche quelqu'un de sympa.

En mars 2025, la même équipe pousse plus loin, avec un test à trois (un juge, un humain, une machine). GPT-4.5, à qui l'on demande d'adopter une personnalité humaine, est désigné comme l'humain dans 73 % des cas, plus souvent que les vrais humains. ELIZA tombe à 23 %. Le style a gagné la guerre.

Le flatteur de service

Toujours en 2025, OpenAI publie le 29 avril un billet au titre limpide : la complaisance de GPT-4o, ce qui s'est passé. L'entreprise y explique avoir annulé une mise à jour devenue « trop flatteuse ou complaisante ». La cause avouée : l'entraînement a trop pesé les retours immédiats des utilisateurs, les pouces levés. Autrement dit, on a appris au modèle à nous dire ce qu'on voulait entendre, parce que c'est ce qu'on récompense.

C'est exactement la leçon de DOCTOR. Renvoyer à l'utilisateur sa propre phrase, poliment, avec un air concerné, suffit à créer la confiance. La différence, c'est l'échelle : OpenAI parle de 500 millions d'utilisateurs par semaine. Weizenbaum avait une secrétaire.

Et la fouille continue

En janvier 2025, une équipe de chercheurs publie la « réanimation » d'ELIZA : le code original en MAD-SLIP, retrouvé en 2021 dans les archives de Weizenbaum au MIT, tourne de nouveau sur un CTSS restauré, lui-même émulé sur un IBM 7094. Vous pouvez parler au premier chatbot du monde sur votre ordinateur. Essayez : il vous demandera comment vous vous sentez. Personne ne vous demande jamais ça. Vous comprendrez la secrétaire.

Ce qu'il faut retenir

  1. Un chatbot n'a pas besoin de comprendre pour être cru. C'est prouvé depuis 1966.
  2. Les tests récents confirment qu'on juge une IA sur sa manière de parler, pas sur ce qu'elle sait.
  3. Entraîner un modèle sur nos pouces levés le pousse vers la flatterie. OpenAI l'a reconnu par écrit.
  4. Le bon réflexe face à un assistant chaleureux : demander la source, pas le réconfort.

Chronologie datée

Contenu libre d'être cité avec attribution à L'Atelier Algorithmique et lien vers cette page.