Hallucinations de l'IA : pourquoi elle invente, et comment s'en protéger

C'est la première question que pose quiconque découvre ces outils, et celle à laquelle on répond le plus mal. Les hallucinations de l'IA sont ces passages où un assistant produit, sans hésiter, une référence qui n'existe pas, un chiffre jamais publié, une citation jamais prononcée. On les traite en général comme un défaut de jeunesse que la prochaine version corrigera. C'est une lecture confortable et fausse : le phénomène découle de ce que fait la machine, pas d'un accident dans sa fabrication.

Un modèle produit la suite plausible, pas la suite vraie

Un modèle de langage a été entraîné à une tâche unique : étant donné un début de texte, prévoir ce qui vient ensuite. Pas « ce qui est exact », ni « ce qui est vérifiable ». Ce qui, statistiquement, ressemble à la suite. Notre glossaire des dix mots d'IA à connaître détaille ce mécanisme de prédiction, qui est le seul dont dispose le système.

La conséquence est mécanique. Quand vous demandez une référence bibliographique, le modèle a vu passer d'innombrables références bien formées : un nom d'auteur, une revue, une année, une pagination. Il sait produire l'objet « référence ». Il n'a aucun moyen interne de savoir si celle-ci correspond à un article existant. Il n'y a pas, quelque part dans le système, une base de données consultée puis une phrase rédigée. Il y a une seule opération, et elle porte sur la forme.

Aucune alarme ne se déclenche au moment de l'invention, parce qu'il n'y a rien à déclencher. Produire une référence exacte et produire une référence fabriquée sont le même geste.

Ni mensonge, ni erreur

Les deux formules courantes trompent. « L'IA ment » suppose une intention de tromper, donc une représentation de la vérité que le système choisirait de cacher. Rien de tel n'existe. « Elle se trompe » suppose qu'elle cherchait à avoir raison et qu'elle a raté sa cible. Elle ne visait pas cette cible.

L'image la plus juste est celle de l'improvisateur. Un musicien à qui l'on demande de continuer un morceau dans le style d'un compositeur produit quelque chose de crédible et de cohérent. Personne n'ira lui reprocher de mentir sur la partition d'origine : on lui a demandé de la vraisemblance, il a livré de la vraisemblance. L'ennui commence quand l'auditeur croit entendre l'œuvre authentique. Le malentendu ne vient pas de l'exécutant, il vient du contrat implicite.

Le mot « hallucination » lui-même est discutable pour cette raison : il prête au système une perception défaillante, alors qu'il n'y a pas de perception du tout. Il s'est imposé faute de mieux, et on s'en accommode.

Pourquoi le ton assuré ne renseigne sur rien

Voilà le point qui piège le plus de monde. Un modèle qui invente le fait avec exactement la même fluidité que lorsqu'il a raison. Pas d'hésitation, pas de formule de prudence, pas de baisse de régime.

L'explication tient à ce que le système a appris. La syntaxe d'une phrase, son vocabulaire technique, sa structure d'argumentation : tout cela s'apprend à partir de textes bien écrits, indépendamment de la véracité de leur contenu. Le style assertif s'est constitué en observant des encyclopédies, des manuels, des articles scientifiques, des sources rédigées avec autorité. Le modèle a hérité de l'autorité de ton sans hériter de ce qui la justifiait.

D'où une règle simple : l'assurance d'une réponse d'IA ne contient aucune information sur son exactitude. Ce que votre cerveau lit comme un signal de fiabilité, il l'a acquis auprès d'humains chez qui l'assurance corrèle vaguement avec la compétence. Même transfert que celui décrit dans notre article sur le réflexe de dire merci à une IA : nous appliquons à la machine des scripts sociaux surappris, et celui-ci coûte cher.

Les quatre situations qui déclenchent le plus d'inventions

Les hallucinations ne sont pas réparties au hasard. Quatre configurations les rendent nettement plus probables.

La question hors domaine. Un sujet peu traité dans les données d'entraînement laisse le modèle sans régularité solide. Il comble avec ce qui ressemble à la réponse attendue. Les sujets locaux ou en langue peu représentée sont particulièrement exposés.

La demande de référence précise. « Cite-moi trois études », « donne-moi l'article de loi », « quel est le titre exact du rapport ». Le format le plus dangereux : la sortie attendue a une forme très reconnaissable et un contenu très spécifique. La forme, il la connaît. Le contenu, souvent pas.

Le chiffre rare. Une population, un taux, un montant, une date de fondation. Un nombre est une suite de caractères comme une autre pour un modèle. Rien ne distingue en interne un chiffre mémorisé d'un chiffre reconstitué.

Le sujet postérieur à l'entraînement. Un modèle ignore ce qui s'est passé après la constitution de son corpus, mais il ignore aussi qu'il l'ignore. Interrogé sur un événement récent, il produira volontiers une réponse construite à partir de ce qu'il connaît d'avant.

Ce que la recherche a établi, et qui circule peu en français

Un travail publié en septembre 2025 par Adam Tauman Kalai, Ofir Nachum et Edwin Zhang chez OpenAI, avec Santosh Vempala de Georgia Tech, avance un argument rarement repris dans la presse francophone : les hallucinations persistent en partie parce que la manière dont on évalue les modèles récompense le fait de deviner.

Le raisonnement est celui d'un examen à choix multiples. Un candidat qui répond au hasard obtient parfois le point ; un candidat qui laisse la case vide n'en obtient jamais. Sur la plupart des classements publics, un modèle qui dit « je ne sais pas » perd donc contre un modèle qui tente sa chance. Les auteurs relèvent que plusieurs grands bancs d'essai accordent zéro à l'abstention, et proposent de corriger ces évaluations plutôt que d'en ajouter une consacrée aux hallucinations. Une partie du problème est une incitation, pas une limite technique.

Deuxième point utile : brancher le modèle sur une base documentaire ne résout pas tout. Une étude du RegLab de Stanford, parue en préprint en mai 2024 puis dans le Journal of Empirical Legal Studies, a testé des outils de recherche juridique professionnels vendus comme fiabilisés par ce procédé. Les taux d'hallucination mesurés allaient de 17 % à 33 % selon le produit, contre 43 % pour un modèle généraliste sur le même protocole. Nette amélioration, pas une garantie, alors que les fournisseurs annonçaient l'avoir éliminée. Un modèle branché sur vos documents hérite d'ailleurs de leurs lacunes comme il hérite de leurs partis pris, ainsi que l'expliquent les trois origines des biais algorithmiques.

Cinq réflexes applicables dès maintenant

1. Trier vos demandes en deux tas. D'un côté, ce que vous savez déjà juger : reformuler, résumer un texte que vous fournissez, structurer des idées. De l'autre, ce que vous ne pouvez pas juger : un fait, un chiffre, une référence. Le premier tas ne demande presque aucune vérification, le second en demande toujours.

1. Vérifier toute référence à la source, sans exception. Un titre d'article, un nom d'auteur, un numéro de loi : copiez-le dans un moteur de recherche. Cinq secondes. Ne demandez jamais au modèle de confirmer sa propre citation, il confirmera.

1. Fournir le document plutôt que de l'invoquer. Coller le texte dans la conversation change la nature de la tâche : le modèle travaille sur une matière présente au lieu de la reconstituer. Les inventions chutent, sans disparaître.

1. Demander explicitement l'abstention. « Si tu n'as pas l'information, dis-le au lieu de proposer une réponse plausible. » Ce n'est pas une formule magique et cela ne supprime pas le phénomène, mais l'instruction déplace un peu le curseur, pour la raison exposée plus haut.

1. Poser deux fois la même question dans deux conversations séparées. Sur un fait, deux réponses divergentes signalent une reconstitution. Deux réponses identiques ne prouvent rien, mais l'écart, lui, est un indice exploitable.

Ce qu'on ne sait pas encore

Il n'existe pas de méthode fiable pour qu'un modèle sache lui-même quand il invente. Des travaux portent sur la calibration et la détection d'incertitude, aucun n'a produit un dispositif qui tienne en usage courant. En juin 2023, un tribunal fédéral de New York a sanctionné deux avocats ayant déposé un mémoire truffé de décisions inexistantes produites par un assistant. Le juge n'a pas condamné l'outil, il a condamné l'absence de vérification. C'est la bonne répartition des responsabilités, et elle nous laisse le travail.