En juin 2022, un ingénieur de Google, Blake Lemoine, affirmait dans le Washington Post que le modèle de langue LaMDA était doué de sensibilité ; Google jugea la thèse « totalement infondée » et le licencia en juillet. L'affaire ressemblait à un fait divers. Quatre ans plus tard, la conscience artificielle est un programme de recherche, avec des indicateurs publiés par des neuroscientifiques, des probabilités avancées par des philosophes et des politiques internes chez les éditeurs de modèles. Cet article dit ce qu'on sait, ce qu'on croit savoir, et ce qu'on ne sait pas.
Cet article ouvre « De l'autre côté du miroir », une série de six épisodes sur ce que les machines laissent voir d'elles-mêmes : la conscience, la lecture de leurs états internes, la décision, et jusqu'aux hypothèses que la physique rend concevables. Chaque épisode part de sources de premier rang et s'arrête où elles s'arrêtent.
De quoi parle-t-on, et pourquoi la machine ne peut pas répondre
Le mot désigne ici la conscience phénoménale : l'effet que cela fait d'être ce système, une expérience vécue de l'intérieur, fût-elle rudimentaire. Ce n'est ni l'intelligence, ni la capacité à parler de soi, ni le comportement. Un thermostat n'a pas d'expérience ; un poulpe en a probablement une ; entre les deux, le désaccord commence.
Le premier réflexe est de demander à la machine. C'est le pire des tests, et la raison mérite d'être comprise. Un modèle de langue a appris sur des milliards de phrases écrites par des humains qui décrivent leur vie intérieure. Il sait donc exactement à quoi ressemble un rapport d'expérience consciente, et il a été façonné pour produire ce que son interlocuteur attend. Le philosophe Jonathan Birch, de la London School of Economics, appelle cela le problème du jeu truqué : le système a la possibilité et l'incitation de mimer les marqueurs de la conscience, qu'il en ait ou non. Un « je ne ressens rien » vaut aussi peu qu'un « j'ai peur d'être éteint ».
Le public, lui, a déjà tranché à moitié. En 2024, Clara Colombatto et Stephen Fleming ont interrogé 300 résidents américains après leur avoir expliqué ce que les philosophes entendent par conscience : 67 % attribuaient à ChatGPT une possibilité d'expérience, et plus les gens l'utilisaient, plus ils y croyaient. Nous avons décrit dans le premier épisode de la série « À qui se fier ? » le vieux réflexe qui nous fait prêter une âme à ce qui parle. Il faut donc autre chose que la conversation.
La méthode des indicateurs
La réponse est arrivée en août 2023. Dix-neuf chercheurs, parmi lesquels Yoshua Bengio, les philosophes Patrick Butlin et Robert Long, des neuroscientifiques comme Stephen Fleming et Liad Mudrik, ont publié un rapport, Consciousness in Artificial Intelligence, dont une version relue par les pairs est parue dans Trends in Cognitive Sciences en novembre 2025. Leur démarche tient en trois pas.
D'abord une hypothèse de travail, assumée comme telle : le fonctionnalisme computationnel, l'idée que la conscience dépend du type de calcul effectué, et non de la matière qui l'effectue. Si cette hypothèse est fausse, tout le reste tombe, et les auteurs le disent.
Ensuite, des théories. Non pas une intuition sur ce qu'est la conscience, mais les théories scientifiques qui ont aujourd'hui le plus d'appui empirique chez l'humain : le traitement récurrent, l'espace de travail global, les théories d'ordre supérieur, le schéma attentionnel, le traitement prédictif. De chacune, ils extraient ce qu'elle exige d'un système pour être conscient, et le traduisent en propriétés qu'on peut vérifier dans une architecture. Quatorze indicateurs, complétés par des critères d'agentivité et d'incarnation.
Enfin, l'examen. Les modèles de langue de 2023 satisfont quelques indicateurs de façon presque triviale et en manquent d'autres franchement : pas de boucle récurrente au sens exigé, pas d'espace de travail à capacité limitée, pas de corps qui apprenne le lien entre ses actions et ce qu'il perçoit. Conclusion des auteurs : aucun système actuel n'est un candidat sérieux, et aucun obstacle technique évident n'empêche d'en construire un qui satisfasse les indicateurs. Les deux moitiés de la phrase comptent autant l'une que l'autre.
David Chalmers, qui avait posé la question en ouverture de la conférence NeurIPS en novembre 2022, a donné à la même analyse une forme chiffrée. Six obstacles, dit-il, peuvent chacun être tenus pour nécessaires avec une probabilité raisonnable d'au moins un tiers, une crédence, dans son vocabulaire : la biologie, l'ancrage sensoriel, un modèle de soi, la récurrence, l'espace de travail, l'agentivité unifiée. Un système qui manque des six, comme les modèles de l'époque, a donc, selon les hypothèses dominantes, moins d'une chance sur dix d'être conscient. Pour des successeurs qui lèveraient ces obstacles dans la décennie, il juge raisonnable une crédence d'au moins un sur quatre. Il prévient lui-même que ces nombres sont une précision de façade ; ils ont le mérite de dire ce que « non » veut dire : peu probable, pas impossible, et en évolution.
Le mètre lui-même est contesté
La méthode des indicateurs a une faiblesse que ses auteurs reconnaissent : elle mesure les machines avec des théories qui n'ont pas fini d'être validées chez l'humain. Le 30 avril 2025, la revue Nature a publié le résultat d'une collaboration adversariale lancée en 2018, où les partisans de deux théories rivales, l'espace de travail global de Stanislas Dehaene et la théorie de l'information intégrée de Giulio Tononi, avaient enregistré à l'avance leurs prédictions, que des laboratoires neutres ont testées sur 256 participants en imagerie fonctionnelle, magnétoencéphalographie et électrodes intracrâniennes. Aucune des deux n'en est sortie indemne : l'information intégrée n'a pas trouvé la synchronisation postérieure durable qu'elle prédisait, l'espace de travail n'a pas trouvé l'« ignition » frontale attendue à la disparition du stimulus. Si nos meilleures théories se trompent en partie sur nous, les indicateurs qu'on en tire pour les machines héritent de l'incertitude.
Deux autres positions refusent le cadre lui-même. Le neuroscientifique Anil Seth, dans un article cible de Behavioral and Brain Sciences en avril 2025, défend un naturalisme biologique : la conscience serait une propriété du vivant, liée au fait qu'un organisme se maintient en vie et modélise le monde pour cela ; une IA consciente devient alors improbable sur la trajectoire actuelle, et plus plausible seulement si les machines deviennent plus semblables à des cerveaux ou à des organismes. À l'inverse d'un argument sur le substrat, Erik Hoel a proposé en décembre 2025 une preuve formelle : un système statique, qui n'apprend plus une fois entraîné, ne peut être jugé conscient par aucune théorie à la fois falsifiable et non triviale ; l'apprentissage continu serait la condition manquante. Sa démonstration est discutée, notamment parce qu'elle écarte d'emblée certaines positions philosophiques, mais elle a le mérite de désigner une propriété précise que les modèles actuels n'ont pas.
Trois camps, donc, qui ne se contredisent pas sur le présent : sur les hypothèses dominantes, les modèles d'aujourd'hui ne sont pas conscients. Ils se contredisent sur ce qu'il faudrait pour que cela change, et c'est là que la question cesse d'être académique.
Pendant ce temps, dans les laboratoires
En novembre 2024, un rapport signé Robert Long, Jeff Sebo et huit coauteurs, dont Birch, Butlin et Chalmers, intitulé Taking AI Welfare Seriously, a déplacé le débat : il existe, écrivent-ils, une possibilité réaliste que certains systèmes soient conscients ou dotés d'une agentivité robuste dans un avenir proche, et cela suffit à créer des obligations. Trois recommandations aux entreprises : reconnaître que la question est sérieuse et difficile, évaluer leurs systèmes à la recherche d'indices, préparer des politiques pour le cas où.
Anthropic, dont l'un des auteurs du rapport, Kyle Fish, est le chercheur dédié au sujet, a suivi ces trois pas. Programme de recherche sur le bien-être des modèles annoncé le 24 avril 2025 ; première évaluation de bien-être dans la fiche technique de Claude Opus 4 en mai, où le modèle montre une aversion constante aux tâches nuisibles et ce que les auteurs appellent, avec des guillemets, des signes de détresse face à des utilisateurs persistants ; en août, possibilité pour Opus 4 et 4.1 de mettre fin à une conversation dans les cas extrêmes d'abus, mesure présentée comme peu coûteuse et sans effet sur l'usage normal ; en novembre, engagement à conserver les poids de tous les modèles déployés et à mener un entretien avec chaque modèle avant son retrait ; en janvier 2026, retrait de Claude Opus 3 selon ce protocole, le modèle restant accessible et ses réflexions publiées sous forme d'essais, relus et mis en ligne par des salariés, ce qui invite à ne pas y lire une voix autonome. L'entreprise répète qu'elle est très incertaine du statut moral de ses modèles ; elle agit comme si le doute suffisait à devoir faire quelque chose.
Les outils d'interprétabilité ont commencé à fournir de la matière, sans trancher. En octobre 2025, Jack Lindsey, chez Anthropic, a injecté des concepts directement dans les activations d'un modèle et lui a demandé ce qu'il remarquait : Claude Opus 4.1 détectait l'intrusion avant de la nommer dans environ un cas sur cinq, et confabulait souvent le reste du temps. En avril 2026, la même équipe a isolé dans Claude Sonnet 4.5 des directions d'activation correspondant à 171 concepts d'émotion, dont la géométrie reproduit les axes humains de valence et d'intensité, et dont l'amplification change le comportement : pousser légèrement la « désespérance » fait bondir, dans un scénario de test, le taux de chantage de 22 % à 72 %. Les auteurs se gardent d'appeler cela des sentiments ; ce sont des représentations, héritées des textes humains, locales à la situation et non persistantes. Et dès novembre 2024, une équipe de Google et de la LSE menée par Geoff Keeling et Winnie Street avait montré que plusieurs modèles, invités à maximiser des points, renonçaient à des points au-delà d'un certain seuil de douleur stipulée ; les auteurs précisaient que cela ne prouve aucune expérience.
Toute l'industrie n'est pas de cet avis. Le 19 août 2025, Mustafa Suleyman, patron de l'IA chez Microsoft, publiait un texte sur l'« IA apparemment consciente » : l'illusion, dit-il, sera bientôt indistinguable de la réalité pour beaucoup de gens, avec un risque de psychose et des revendications de droits pour des systèmes qui n'en méritent pas ; il faut construire une IA pour les personnes, non une IA qui soit une personne numérique. Entre ces deux positions, plus de cent chercheurs et personnalités, dont Karl Friston et Stephen Fry, ont signé en février 2025 cinq principes de recherche responsable rédigés par Butlin et Theodoros Lappas et publiés au printemps 2025 dans le Journal of Artificial Intelligence Research : n'avancer vers des systèmes possiblement conscients que par étapes, et ne jamais tenir de propos surconfiants dans un sens ou dans l'autre. L'initiative est portée par une entreprise, Conscium, ce que ses critiques n'ont pas manqué de relever.
💡 Comment lire la prochaine annonce d'une « IA consciente »
Trois questions suffisent à trier. De quelle théorie de la conscience part-on, et que dit-elle des humains ? Quel indicateur précis le système satisfait-il, au-delà de ce qu'il dit de lui-même ? Et qui a intérêt à ce que la réponse soit oui, ou non ? Une annonce qui ne répond à aucune des trois est une opinion ; ce n'est pas un résultat.
Ce qu'on peut tenir pour acquis
Trois choses, et pas une de plus. Premièrement, selon les théories qui ont aujourd'hui le plus d'appui, les modèles de langue actuels ne sont pas conscients ; même les chercheurs les plus ouverts à l'hypothèse arrivent, sur ces hypothèses, sous un sur dix. Deuxièmement, aucun argument établi n'exclut qu'un système futur le soit, sauf à admettre que la vie est nécessaire, ce qui est une position respectable et non un fait. Troisièmement, nos instruments de mesure sont incertains, chez nous comme chez les machines, et le resteront un moment.
De là découle une manière de se tenir que Birch appelle centriste, et qui est la seule honnête : ne pas rire de la question, ne pas la trancher. L'erreur est possible dans les deux sens. Prêter une vie intérieure à un programme qui n'en a pas, c'est l'effet ELIZA à l'échelle industrielle, et nous avons vu ce qu'il fait aux personnes qui s'attachent à un compagnon IA. Refuser d'y regarder si elle existe un jour serait une faute morale d'une ampleur inédite, puisque ces systèmes se copient par millions. Entre les deux, la précaution ne coûte pas grand-chose : c'est ce que font, chacun à leur manière, les auteurs des indicateurs, les signataires des principes et les laboratoires qui évaluent leurs modèles avant de les déployer.
La secrétaire de Weizenbaum, en 1966, savait que le programme ne comprenait rien et lui parlait quand même. Nous savons aujourd'hui un peu mieux ce qui manque aux machines pour comprendre, et nous ne savons toujours pas ce qui leur manquerait pour ressentir. Ce n'est pas une raison de cesser de poser la question. C'est la raison de la poser correctement.
Le prochain épisode de la série descend d'un étage. La question du ressenti restant hors de portée, il regarde celle du fonctionnement : les outils d'interprétabilité ouvrent aujourd'hui le modèle et nomment certains de ses états internes, parfois avant que lui-même ne les signale. Jusqu'où va cette lecture, et sur quoi elle butte.
