L'histoire des machines qui parlent tient en une phrase répétée depuis soixante ans : à chaque génération, les utilisateurs prêtent au programme beaucoup plus de compréhension qu'il n'en a, et à chaque génération on croit que c'est la faute du programme. Le premier de la lignée date de 1966, il tenait dans quelques centaines de lignes de code, et son auteur a passé le reste de sa vie à expliquer que ce n'était pas ce qu'on croyait.
1966 : ce qu'ELIZA fait, exactement
Joseph Weizenbaum publie en janvier 1966, dans les Communications of the ACM (volume 9, numéro 1, pages 36 à 45), la description d'un programme écrit en MAD-SLIP et tournant sur l'IBM 7094 du MIT, sous CTSS, le premier système à temps partagé. Le programme s'appelle ELIZA. Ce qu'on désigne par ce nom dans la culture générale est en réalité un de ses scripts, baptisé DOCTOR, qui imite un psychothérapeute rogérien.
La distinction n'est pas un détail d'érudit. ELIZA est un moteur : il ne sait rien du sujet de la conversation, il applique un script. Le mécanisme, tel que Weizenbaum le décrit lui-même, se déroule en quelques étapes.
Le programme balaie la phrase reçue à la recherche de mots-clés déclarés dans le script. Chaque mot-clé porte un rang de priorité, et les mots repérés s'empilent dans l'ordre de ce rang. Le mot-clé retenu commande une règle de décomposition : un gabarit qui découpe la phrase en morceaux. À ce gabarit sont associées des règles de recomposition, qui réassemblent les morceaux en y ajoutant du texte fixe. Une passe indépendante inverse les pronoms de première et de deuxième personne.
L'exemple de l'article est celui-ci : « You are very helpful » devient « I are very helpful » après inversion des pronoms, se découpe en fragments dont le quatrième est « very helpful », et une règle de recomposition du type « What makes you think I am (4) ? » produit la réponse. Aucune analyse grammaticale, aucun sens, aucun apprentissage. Quand rien ne correspond, le programme sort une réponse creuse du type « I see », ou puise dans une structure MEMORY qui a mis de côté une phrase antérieure pour la resservir plus tard.
C'est tout. Le script DOCTOR est un choix de mise en scène très habile : le psychothérapeute rogérien est le seul interlocuteur au monde dont on attend qu'il renvoie les questions sans jamais apporter de contenu. Le décor absout le programme de tout ce qu'il ne sait pas faire.
Ce que Weizenbaum a vu, et ce qu'on lui fait dire
L'anecdote est connue en français, souvent mal racontée. Weizenbaum rapporte que sa secrétaire, qui l'avait vu travailler sur le programme pendant des mois et savait parfaitement qu'il s'agissait d'un logiciel, lui a demandé au bout de quelques échanges de quitter la pièce.
La version qui circule en fait une histoire de crédulité : une personne naïve trompée par un programme malin. C'est l'inverse de ce que Weizenbaum a écrit. Il insiste précisément sur le fait qu'elle savait. Ce qui l'a saisi n'est pas qu'on puisse se tromper sur la nature de la machine, c'est qu'on puisse s'engager émotionnellement avec elle en sachant très bien ce qu'elle est. Le savoir n'éteint pas le comportement. C'est le même écart que nous décrivions à propos de notre réflexe de dire merci à une IA : croire que la machine ressent et se comporter comme si elle ressentait sont deux états mentaux différents.
Sa position, développée dans Computer Power and Human Reason (1976), est elle aussi régulièrement caricaturée. Weizenbaum n'a jamais soutenu que l'informatique était vaine ni que les machines ne pourraient rien faire. Sa thèse est plus étroite et plus dure : il existe des tâches qu'une machine pourra techniquement accomplir et qu'il faut néanmoins refuser de lui confier, celles qui engagent le jugement, la compassion, la responsabilité. La perspective d'une psychothérapie automatisée, que certains de ses contemporains accueillaient comme un progrès, lui paraissait choquante. Le livre lui a valu une brouille durable avec le milieu de la recherche en IA, John McCarthy en tête, et il a fini par revendiquer cette mise à l'écart.
Un point mérite d'être dit sans arrondir : rien de tout cela n'est un protocole expérimental. L'épisode de la secrétaire est un récit rapporté par une personne, à propos d'une conversation dont on ne possède pas la trace. Le projet ELIZA Archaeology travaille d'ailleurs, depuis 2021, à identifier qui a réellement tenu la conversation que Weizenbaum cite. La démonstration solide de l'effet viendra plus tard, par la recherche en interaction homme-machine. Le récit fondateur, lui, reste un récit.
💡 Une équipe qui surestime l'outil s'en sert mal
Le malentendu de 1966 a un coût très concret en entreprise : on confie à un assistant une décision qu'il n'est pas en état de prendre, puis on découvre l'erreur en aval. Savoir ce que l'outil fait réellement est la première compétence à installer, et c'est l'objet de notre coaching et formation.
Le code perdu, retrouvé, remis en marche
Voici la partie de l'histoire quasiment absente des articles en français, et qui vaut pourtant le détour.
Le code source original d'ELIZA n'a jamais été publié. Pendant un demi-siècle, ce que tout le monde appelait ELIZA était en réalité une descendance de réimplémentations : une version Lisp diffusée sur ARPANET, une version BASIC parue en 1977 qui a essaimé sur les micro-ordinateurs personnels, et des centaines de clones ensuite. L'original avait disparu.
En 2021, le chercheur Jeff Shrager, auteur d'un de ces clones dans les années 1970, obtient d'un archiviste du MIT qu'il fouille les fonds Weizenbaum. Dans une boîte, un listing des années 1960 : le code MAD-SLIP presque complet, avec une version ancienne du script DOCTOR. Une équipe réunissant Rupert Lane, Anthony Hay, Arthur Schwarz, David M. Berry et Jeff Shrager le transcrit à la main, page à page, puis le fait tourner sur une reconstruction de CTSS au-dessus d'un IBM 7094 émulé. Ils publient leurs travaux en janvier 2025 sous le titre ELIZA Reanimated, et l'ensemble de la pile est en accès libre.
Le listing réserve une surprise : le programme comportait une fonction d'édition des scripts par l'utilisateur, mentionnée par Weizenbaum en 1966 mais jamais documentée depuis. La leçon est surtout méthodologique. Pendant cinquante ans, la référence historique la plus citée de tout le domaine a été discutée à partir de copies approximatives.
PARRY, 1972 : la ruse du personnage
Six ans après ELIZA, le psychiatre Kenneth Colby, à Stanford, écrit PARRY. Le programme simule non pas un thérapeute mais un patient atteint de paranoïa. Il reste à base de règles, mais il embarque un modèle interne rudimentaire d'états affectifs, colère et peur notamment, qui module ses réponses. Les deux programmes ont d'ailleurs été mis en relation à travers ARPANET, notamment lors de la conférence ICCC de 1972.
Colby et ses collègues publient la même année un test d'indistinguabilité inspiré de Turing : des psychiatres examinent des transcriptions mêlant de vrais patients et le programme, et doivent trier. Le taux d'identification correcte tourne autour de 48 %, soit le hasard. On en a tiré, y compris dans la notice nécrologique de Colby, que PARRY serait le seul programme à avoir passé le test de Turing.
La conclusion ne tient pas, et pour une raison qui éclaire tout le reste. Le personnage choisi est un patient méfiant, évasif, hostile, qui répond à côté et refuse de développer. Autrement dit, un interlocuteur dont l'incohérence est attendue. PARRY ne franchit pas la barre : il déplace la barre. C'est exactement le procédé du script DOCTOR, appliqué avec plus de méthode. Les agents conversationnels à base de règles n'ont pas progressé en compréhension, ils ont progressé en choix de rôle.
Les concours, ou l'industrialisation du malentendu
Ce déplacement devient une discipline sportive en 1991, avec la première édition du prix Loebner, financée par Hugh Loebner et organisée avec le Cambridge Center for Behavioral Studies. Cent mille dollars et une médaille d'or attendaient le premier programme à passer un test de Turing complet, avec des prix annuels plus modestes pour le meilleur concurrent de chaque édition.
Le grand prix n'a jamais été attribué. Le concours s'est éteint en 2019, à Swansea, après la mort de son fondateur en 2016. Ce qu'il aura surtout produit, ce sont trois décennies de techniques d'esquive : fautes de frappe simulées, temps de réponse ralentis, changements de sujet, humour préfabriqué. Marvin Minsky, son adversaire le plus bruyant, y voyait un coup de publicité sans intérêt scientifique. Sur ce point précis il avait raison : on n'y mesurait pas la compréhension, on y mesurait la capacité à exploiter la disposition du juge à combler les trous.
Le basculement statistique, puis l'échelle
Le vrai changement technique ne vient pas de ce côté-là. Il vient du remplacement progressif des règles écrites à la main par des modèles appris sur de grands corpus, mouvement qui traverse le traitement automatique des langues à partir des années 1990 et s'accélère avec les réseaux de neurones dans les années 2010. Nous en avons retracé les étapes dans sept révolutions de Turing à ChatGPT, et le contraste avec les périodes de gel du domaine est détaillé dans les hivers de l'IA.
Ce basculement change la nature de l'objet. Un modèle de langue ne contient aucune règle de recomposition écrite par un humain ; il produit la suite la plus probable d'un texte, apprise sur des quantités de langue qu'aucune équipe ne pourrait annoter. La différence avec ELIZA n'est pas de degré, elle est de nature. Sur un point, pourtant, la continuité est parfaite : ni l'un ni l'autre ne dispose d'un modèle du monde auquel confronter ce qu'il dit. C'est la racine des réponses inventées avec aplomb, qui sont le symptôme moderne du même vide.
Et l'effet, lui, ne bouge pas. En juin 2022, un ingénieur de Google, Blake Lemoine, affirme publiquement que le modèle LaMDA est doué de conscience ; il est suspendu, puis licencié le mois suivant. Ce n'est pas un naïf devant une machine à écrire de 1966, c'est un professionnel qui connaissait l'architecture du système. Cinquante-six ans séparent les deux scènes.
Le fil rouge porte un nom, plus récent qu'on ne croit
On lit souvent que l'effet ELIZA aurait été nommé dès les années 1960. C'est faux, et la date importe. L'expression est due à Douglas Hofstadter, qui l'emploie dans Fluid Concepts and Creative Analogies, paru en 1995, pour désigner notre tendance à lire dans des suites de symboles produites par une machine bien plus de compréhension qu'elles n'en portent. Il fallait donc trente ans, et plusieurs générations de programmes, pour que le phénomène soit identifié comme un trait de l'observateur et non comme une propriété de l'observé.
C'est le point où la généalogie devient utile. Chaque génération a cru que la précédente s'était fait avoir par un programme trop faible, et que sa propre impression, elle, était fondée. La constante n'a jamais été dans la machine.
Ce qui reste ouvert, c'est de savoir ce qui se passe quand la qualité de la simulation cesse d'être le facteur limitant. L'effet ELIZA se définissait par un écart : peu de programme, beaucoup de projection. Cet écart se referme. Nous ne savons pas encore, et personne ne le sait, si le concept survit à sa propre réussite, ni ce que devient l'attachement à un compagnon conversationnel quand la mise en scène n'a plus besoin de béquilles. La bonne question n'a jamais été de savoir si la machine comprend. C'est de savoir ce que nous faisons de ce qu'elle dit.
