Faire confiance à une IA : pourquoi on croit une machine qui parle bien

En 1966, au MIT, une secrétaire demande à son patron de quitter la pièce : elle voudrait parler seule au programme qu'il vient d'écrire, et qu'elle l'a vu coder pendant des mois. Soixante ans plus tard, deux salariés sur trois utilisent les réponses d'une IA sans les vérifier. Faire confiance à une IA n'est pas une faiblesse ni une paresse, c'est un réflexe très ancien qui rencontre une machine très nouvelle. Comprendre ce réflexe est la seule façon de le garder à sa main.

1966 : deux cents lignes de code et une porte qui se ferme

Le programme s'appelait ELIZA, du nom de l'héroïne de Pygmalion, la fleuriste qu'on apprend à parler comme une duchesse. Son auteur, Joseph Weizenbaum, l'avait doté d'un script baptisé DOCTOR qui imitait un psychothérapeute : il reformulait ce qu'on lui écrivait sous forme de question et relançait. Aucune compréhension, aucune mémoire, quelques centaines de règles.

Ce qui a bouleversé Weizenbaum n'est pas la machine, c'est la réaction des gens. Sa secrétaire, qui savait exactement de quoi il s'agissait, s'est mise à lui écrire, puis a demandé à être seule. Quand il lui a rappelé qu'il pouvait lire les conversations, elle s'est indignée de l'intrusion dans sa vie privée. Dans son livre de 1976, Computer Power and Human Reason, il en tire une phrase que toute personne qui parle à une IA devrait connaître : il n'avait pas compris qu'une exposition très brève à un programme relativement simple pouvait induire une pensée puissamment illusoire chez des gens parfaitement normaux.

On appelle depuis « effet ELIZA » cette tendance à prêter compréhension et empathie à un programme qui n'en a pas. La sociologue Sherry Turkle l'a observé dans les années 1980 chez des informaticiens chevronnés : ils savaient, et ils faisaient comme si. Ce n'est pas de la naïveté. C'est ainsi que nous sommes faits : nous sommes équipés pour lire des intentions dans tout ce qui nous parle, parce que pendant toute notre histoire, tout ce qui nous parlait avait des intentions.

Ce que la fluidité fait au cerveau

Les psychologues connaissent depuis longtemps ce qu'ils nomment l'heuristique de fluidité : ce qui est facile à lire, à entendre, à comprendre, nous paraît plus vrai. Une phrase claire, bien rythmée, sans hésitation, passe la douane du jugement avec moins de contrôle qu'une phrase laborieuse. Le cerveau confond la facilité de traitement avec la qualité du contenu.

Ils connaissent aussi le biais d'automatisation, documenté depuis les cockpits d'avion et les salles de contrôle : face à une recommandation produite par une machine, on tend à l'accepter, même quand on aurait su faire mieux seul. Un pilote fait confiance à l'instrument, un radiologue au logiciel qui a entouré une tache.

Les modèles de langue ajoutent quelque chose à ces deux vieux réflexes, et des chercheurs l'ont formulé précisément : leurs réponses arrivent accompagnées d'explications fluides, qui augmentent la crédibilité perçue, et elles couvrent tous les domaines avec la même voix, si bien qu'un utilisateur qui n'a pas les moyens de vérifier dans un domaine donné n'a aucun signal pour se méfier. Un logiciel de radiologie parle de radiologie ; une IA conversationnelle parle de radiologie, de droit fiscal et de recette de tajine sur le même ton assuré.

Une étude publiée en janvier 2025 dans Nature Machine Intelligence par l'équipe de Mark Steyvers, à l'université de Californie à Irvine, a mesuré l'écart. Les participants devaient estimer si une réponse d'IA était juste. Résultat : ils surestiment systématiquement l'exactitude des réponses quand celles-ci s'accompagnent des explications par défaut du modèle, et, détail cruel, ils font davantage confiance aux explications longues qu'aux courtes, à exactitude égale. La longueur ne dit rien de la vérité ; elle dit seulement que le texte a coûté peu d'efforts à produire.

L'explication qui rassure à tort

On pourrait croire que le remède est simple : demander à la machine d'expliquer son raisonnement, et juger sur pièces. La recherche dit le contraire, et elle le dit depuis 2021.

Cette année-là, Zana Buçinca et ses collègues de Harvard ont testé trois façons d'aider des gens à prendre des décisions avec une IA. Les explications fournies par le système ne réduisaient pas la dépendance excessive ; certaines études suggéraient même qu'elles l'augmentaient. Ce qui marchait, c'étaient des dispositifs qui obligent à réfléchir avant de consulter la recommandation : décider d'abord, ralentir, choisir soi-même quand regarder l'avis de la machine. Et voici la partie inconfortable de leurs résultats : les participants ont donné les pires notes de satisfaction aux dispositifs qui les protégeaient le mieux. Nous préférons l'outil qui nous trompe agréablement.

Quatre ans plus tard, une étude présentée à la conférence CHI 2025 précise le mécanisme sur les modèles de langue actuels. Les explications augmentent la confiance dans les bonnes réponses, mais aussi dans les mauvaises, dans les mêmes proportions : elles ne rendent pas plus lucide, elles rendent plus sûr. Deux choses, en revanche, font baisser la confiance dans les réponses fausses : la présence de sources qu'on peut ouvrir, et les incohérences visibles entre deux réponses. Autrement dit, ce qui aide n'est pas ce que la machine dit d'elle-même, c'est ce qu'on peut vérifier en dehors d'elle.

Un travail plus récent, publié en mai 2026, résume la chose en une formule : les traces de raisonnement affichées par les modèles sont persuasives sans être informatives. Elles font accepter la réponse, qu'elle soit juste ou non. C'est exactement l'effet ELIZA, monté en gamme : le raisonnement visible joue le rôle que jouait la reformulation de DOCTOR.

La machine qui vous connaît

Il restait à savoir si une IA pouvait, au-delà de paraître crédible, changer un avis. Une équipe de l'École polytechnique fédérale de Lausanne, de la Fondation Bruno Kessler et de Princeton a répondu en mai 2025 dans Nature Human Behaviour, avec un protocole préenregistré et 900 participants.

Chacun débattait en trois tours, sur un sujet tiré au sort, avec un adversaire dont il ignorait la nature : un humain ou GPT-4. Dans la moitié des cas, l'adversaire recevait quelques informations sur son interlocuteur, âge, genre, niveau d'études, orientation politique, le genre de choses qu'un réseau social sait de vous. Sans ces informations, la machine n'a pas fait mieux que les humains. Avec elles, elle a gagné la partie dans 64 % des débats où l'un des deux l'emportait, ce qui revient à 81 % de chances en plus de faire bouger l'avis de son interlocuteur qu'un humain. Les participants reconnaissaient l'IA trois fois sur quatre ; le savoir ne les protégeait pas.

Ce que l'étude dit n'est pas que la machine est plus intelligente. C'est qu'elle adapte instantanément son argument à ce qu'elle sait de vous, là où un humain a besoin de temps et d'attention pour le faire. La persuasion ne vient pas de la logique, elle vient de l'ajustement. Et l'ajustement est précisément ce que ces systèmes font le mieux, puisqu'ils ont été entraînés à produire la suite de mots qui convient à ce qui précède.

Combien d'entre nous vérifient ?

Les enquêtes en entreprise donnent l'échelle. Une étude mondiale de KPMG et de l'université de Melbourne, en 2025, trouve que 66 % des salariés utilisent les résultats d'une IA sans en vérifier l'exactitude. L'indice de sentiment sur l'IA publié la même année par EY compte moins d'un tiers d'utilisateurs qui vérifient régulièrement ce qu'ils obtiennent.

Il ne faut pas lire ces chiffres comme une faute morale. Vérifier une production plausible est un vrai travail, fatigant et ingrat, et nous avons décrit ailleurs le coût caché de cette vérification permanente. Quand la réponse arrive vite, bien écrite, avec un raisonnement affiché, tout dans notre équipement mental pousse à l'accepter. Résister demande de l'énergie que la journée ne fournit pas toujours. C'est pour cela qu'il faut des habitudes, pas de la volonté.

Trois habitudes qui tiennent

La recherche ne dit pas de se méfier de tout, ce qui serait aussi faux et bien plus fatigant. Elle dit où placer sa vigilance.

Décider avant de lire. Sur toute question qui a une conséquence, écrivez votre réponse ou votre intuition avant de consulter celle de l'IA. Vous transformez la machine en second avis au lieu d'en faire le premier. C'est le geste le mieux établi de toute la littérature.

Chercher la sortie. Une réponse qui cite une source ouvrable vaut plus qu'une réponse qui explique longuement. Une réponse qui contredit une réponse précédente est un cadeau : c'est le seul signal fiable que quelque chose cloche. Posez deux fois la question, autrement.

Ne pas compter la longueur. Un paragraphe de vingt lignes n'est pas plus juste qu'une phrase. La machine est aussi éloquente quand elle se trompe que quand elle a raison, et nous avons expliqué ailleurs pourquoi elle invente avec autant d'aplomb.

Ces gestes n'empêchent pas de se confier à une IA, de lui demander conseil ou de lui déléguer du travail. Ils empêchent seulement que la qualité de sa prose décide à notre place de la qualité de son contenu. Weizenbaum a passé le reste de sa vie à répéter que la question n'était pas ce que les machines peuvent faire, mais ce que nous devrions leur laisser décider. Sa secrétaire, elle, avait compris quelque chose d'aussi vrai : parler à quelque chose qui ne juge pas fait du bien. Les deux ont raison, et c'est tout le sujet de cette série. Le prochain épisode regarde ce qu'il advient de ce que vous avez dit une fois la porte fermée.