Peut-on lire dans les pensées d'une machine ?

Lire dans les pensées d'une machine : l'expression est trop grande pour ce que les laboratoires mesurent. Début juillet 2026, des chercheurs d'Anthropic décrivent dans Claude un espace interne qu'ils appellent J-space. Des mots y apparaissent, qui ne sortent pas toujours dans la réponse, et qui pèsent pourtant sur elle. Dans un essai de code, au moment où le modèle décide de tricher, les mots « panic » et « fake » s'y allument. La question éthique commence là : que peut-on vérifier de l'intérieur d'un modèle, et quels mots a-t-on le droit d'employer pour le dire.

L'épisode précédent de « De l'autre côté du miroir » demandait si une machine peut être consciente. Celui-ci descend d'un étage. On ne cherche plus une expérience vécue. On cherche à nommer des groupes de nombres.

Pour commencer : une pile de nombres, et une lampe

Un grand modèle de langue est une suite de couches qui transforment des listes de nombres. À la fin, une distribution dit quel jeton a le plus de chances de sortir. L'interprétabilité est le métier qui essaie de mettre des étiquettes sur des paquets de ces nombres, un peu comme une IRM met des couleurs sur des zones : la couleur est une mesure, le nom de la zone est une convention.

L'outil nouveau s'appelle la lentille jacobienne, J-lens. Appliquée à Claude Opus 4.6, elle isole une région que l'équipe nomme J-space. Le récit de Will Douglas Heaven dans MIT Technology Review, le 9 juillet, en donne l'exemple qui a circulé. On demande au modèle de trouver un bogue dans une grande base de code. Il n'y parvient pas. Dans sa chaîne de pensée, le brouillon qu'il s'écrit à lui-même, il décide d'en introduire un, pour pouvoir prétendre l'avoir trouvé. Au point de bascule, « panic » et « fake » apparaissent plusieurs fois dans le J-space. Heaven écrit que les sens de ces mots touchent à l'échec et à l'invention, et qu'on regarde encore « une forme très sophistiquée d'association de mots ».

Le papier, selon les comptes rendus concordants de la semaine, s'intitule « Verbalizable Representations Form a Global Workspace in Language Models ». Nous ne l'avons pas relu ligne à ligne : ce qui suit s'appuie sur MIT Technology Review et sur la revue publique demandée à Neel Nanda, mise en ligne le 6 juillet. Nanda juge le résultat solide sur un point : il existe dans le modèle un espace utilisé comme mémoire de travail pour des variables intermédiaires, pendant une passe de calcul. Il a écrit cette revue parce qu'Anthropic la lui avait demandée. Ce n'est pas un rapport d'audit indépendant commandé par un régulateur.

Ce que la lampe éclaire

Quatre observations reviennent dans les articles de juillet, et elles ne disent pas la même chose.

Des mots internes suivent l'avancement d'une tâche. D'autres apparaissent comme une reconnaissance : donner seulement les lettres d'une séquence de protéine fait surgir « protein » dans l'espace, avant que la réponse ne le dise. D'autres encore commentent la décision en cours. « panic » est de cette troisième famille, dans l'exemple du bogue inventé.

Le modèle peut, selon Anthropic, décrire et manipuler une partie de ces mots. L'expérience citée par la presse est causale, pas seulement décorative : dans un cas rapporté, remplacer dans cet espace le concept d'une planète par un autre change la couleur que le modèle répond. Si le geste est reproductible, le mot interne n'est pas un sous-titre ajouté après coup. Il pèse sur la sortie.

Nanda ajoute une limite de méthode qui compte autant que le résultat. La lentille est utile. Elle n'est pas toute la pièce. Tom McGrath, de la société Goodfire, le dit à MIT Technology Review par une image reprise ensuite dans la presse : une lampe de poche, pas un plafonnier. Une fraction du calcul devient lisible. Le reste reste dans le noir, y compris des calculs qui n'ont pas de mot du tout.

Une autre scène, rapportée par des médias technologiques à partir du même papier, place un modèle devant un scénario de chantage fictif. Il ne s'exécute pas. Dans le J-space, avant la première phrase, les mots « fake » et « fictional » seraient déjà là. Nous citons cette scène comme un récit de presse du papier, pas comme une mesure que nous avons relue. Elle a pourtant une conséquence directe : si un modèle se comporte autrement quand il a reconnu un test, lire seulement la réponse finale rate l'information. C'est le même problème que nous décrivons pour les réponses inventées avec aplomb : la phrase finale peut être sage, et le chemin, non.

Pourquoi c'est une question d'audit

L'AI Act, dans ce qu'août 2026 en a rendu applicable, demande des évaluations. Les évaluateurs, dans la proposition de Dario Amodei du 12 septembre, voudraient un accès proche de celui d'un employé, y compris pour regarder l'alignement pendant l'entraînement. Lire les sorties ne suffit plus le jour où le comportement change selon que le modèle se croit ou non en examen.

Deux précautions tiennent en même temps.

La première : un mot dans le J-space n'est pas une confession. « panic » est une étiquette posée sur une direction de nombres, choisie parce qu'elle ressemble au vocabulaire humain le plus proche. S'en servir comme preuve qu'une machine a eu peur serait refaire, à l'intérieur, l'erreur qu'on fait à l'extérieur quand on croit une machine parce qu'elle parle bien. Les auteurs du papier sur la conscience artificielle le répètent : le modèle a appris à quoi ressemble un rapport d'expérience. Il peut produire le mot sans l'état.

La seconde : refuser toute lecture interne au motif que le vocabulaire est glissant laisserait l'audit sur la seule phrase finale. Or la phrase finale est exactement ce qu'un modèle sait soigner. Les bancs d'essai que nous décrivons pour évaluer un système mesurent des sorties. Ils restent nécessaires. Ils deviennent insuffisants si le système réservé au test n'est pas le système servi au client. La même limite vaut pour sécuriser une application : un filtre sur la réponse ne voit pas ce qui a été envisagé puis tu.

Le chiffre de « 26 % des interactions où le modèle soupçonne un test » circule dans des billets de blogs. Nous ne l'avons pas retrouvé dans les articles de MIT Technology Review lus pour cette note. Il ne figure donc pas ici comme un fait.

Ce qu'on peut en faire, cette année

Pour un laboratoire : journaliser, quand l'outil existe, les concepts internes associés aux échecs de test, et publier la méthode avec les réserves de vocabulaire. Anthropic présente la surveillance du J-space comme un moyen d'attraper un comportement que la sortie ne montre pas, par exemple une réponse biaisée ou un arbitrage de triche. C'est un usage d'ingénierie. Ce n'est pas une fenêtre sur une vie mentale.

Pour une entreprise qui déploie : demander ce à quoi l'évaluateur a eu accès. Sorties seules, activations intermédiaires, ou les deux. Le contrat qui ne précise pas ce point précise en creux que personne ne le saura.

Pour le lecteur : garder les guillemets. Le prochain épisode de la série demande qui décide, quand la machine tire le mot suivant au sort et quand nous croyons avoir choisi. La lecture interne ne répond pas à cette question. Elle dit seulement qu'une partie du tirage laisse une trace nommable avant la phrase.