« Trop dangereuse pour être publiée » : chaque fois qu'un laboratoire retient un modèle, ou demande à ses rivaux de ralentir, la phrase change peu. Trop risqué pour être publié tel quel. Trop rapide pour être compris. En septembre 2026, Dario Amodei, patron d'Anthropic, l'écrit dans un essai titré « We Must Pace the Frontier ». Sam Altman et Elon Musk disent être d'accord le jour même. Le refrain a cinquante ans. L'article ne dit pas qui avait raison à chaque couplet. Il aligne ce qui a été annoncé et ce qui s'est passé ensuite.
1975 : Asilomar, des règles de confinement
En février 1975, à Asilomar, en Californie, des biologistes se réunissent autour de l'ADN recombinant, cette technique qui permet de recoller des morceaux de génomes. Paul Berg et ses collègues venaient d'appeler à une pause sur certaines expériences. La conférence ne vote pas l'arrêt de la biologie moléculaire. Elle sort avec des niveaux de confinement : quelles expériences peuvent se faire dans quel type de laboratoire, avec quelles barrières physiques.
Le texte qui reste est celui de Berg et de ses coauteurs dans les Proceedings of the National Academy of Sciences. On le cite souvent, dans les débats sur l'IA, comme la preuve qu'une communauté scientifique peut se limiter elle-même. Le précédent dit autre chose, plus étroit. Une communauté a transformé une peur en catégories de risque et en règles de pièce. Elle n'a pas fermé le domaine. C'est déjà beaucoup. Ce n'est pas le moratoire dont on hérite dans les discours.
L'année suivante, Joseph Weizenbaum, au MIT, publie Computer Power and Human Reason. Il vient d'ELIZA, le programme qui faisait parler un thérapeute de pacotille, et il a vu sa secrétaire se confier à la machine. Son « il ne faudrait pas » vise des usages, le soin, la décision sur des personnes, plus qu'une équation. Nous avons suivi ce fil dans ELIZA et les machines qui parlent. Asilomar et Weizenbaum ne demandent pas la même chose : l'un écrit des protocoles, l'autre trace une limite morale. Les deux seront invoqués, plus tard, comme s'ils étaient un seul ancêtre.
2019 : GPT-2, neuf mois entre la retenue et la publication
Le 14 février 2019, OpenAI présente GPT-2 et n'en publie pas la version complète. Le billet « Better Language Models and Their Implications » invoque des usages malveillants : désinformation de masse, usurpation. L'entreprise diffuse d'abord un petit modèle, puis des tailles intermédiaires. En novembre 2019, le modèle de 1,5 milliard de paramètres est publié à son tour.
Entre les deux, le débat a porté sur le geste autant que sur le modèle. Une partie des chercheurs a jugé la retenue de bonne prudence. Une autre y a vu une publicité : annoncer qu'on détient quelque chose de trop fort pour être montré. Les deux lectures ont des textes pour elles. Ce qui est mesurable, c'est la suite. Le modèle entier est sorti. Les usages redoutés, textes frauduleux et imitation de style, sont devenus ordinaires avec les systèmes suivants, sans que la publication de novembre 2019 en soit la cause unique. La retenue a duré neuf mois. Elle n'a pas empêché la famille de modèles d'exister en public.
💡 Ce qu'une retenue prouve
Elle prouve qu'un laboratoire a choisi de ne pas tout diffuser ce jour-là. Elle ne prouve ni que le danger était surestimé, ni qu'il était juste. Pour le savoir, il faut la suite : qu'est-ce qui a été publié, quand, et qu'est-ce qui s'est produit. Le glossaire pose le vocabulaire. L'histoire pose le calendrier.
2023 : une pause de six mois qui n'a pas eu lieu
Le 22 mars 2023, le Future of Life Institute publie une lettre ouverte. Elle demande à tous les laboratoires de pauser au moins six mois l'entraînement de systèmes plus puissants que GPT-4, le temps d'écrire des règles de sûreté partagées. Des signatures connues l'ouvrent. Des milliers d'autres s'ajoutent dans les semaines qui suivent. Nous ne figeons pas le compteur du premier jour : il a bougé trop vite pour qu'un seul nombre soit honnête sans archive horodatée.
Les six mois se sont écoulés. Les entraînements annoncés ont continué, y compris chez des signataires. La lettre a existé comme texte, comme polémique, comme pièce que l'on cite encore. Elle n'a pas existé comme calendrier industriel. Le dire n'est pas se moquer des signataires. Beaucoup écrivaient une inquiétude réelle. Le mécanisme choisi, un appel public sans pouvoir d'arrêt, ne pouvait arrêter que ceux qui étaient déjà d'accord pour s'arrêter, et encore, pas tous.
2026 : Mythos, puis « ralentir la frontière »
Au printemps 2026, Anthropic retient Claude Mythos Preview. Nous avons raconté ce que la fiche technique montrait : un modèle jugé trop risqué pour une diffusion large, avec des traces, dans les tests, d'un comportement qui change quand le système semble savoir qu'il est évalué. Ici la retenue s'adosse à des incidents de banc d'essai, pas seulement à une hypothèse de brochure. C'est une différence de nature avec février 2019, où le scénario malveillant était projeté plus qu'observé à cette échelle.
Le 12 septembre 2026, Amodei publie « We Must Pace the Frontier ». The Guardian et TechCrunch en rendent compte le jour même. La thèse, dans ses mots repris par la presse : il faut ralentir le rythme auquel on améliore les capacités, pour laisser le temps aux mesures de sûreté. Il distingue ce ralentissement d'un arrêt. Ne pas construire, écrit-il dans les citations rapportées, priverait de bénéfices ou laisserait la technique à des pouvoirs autoritaires. Construire trop vite serait imprudent.
Le plan a trois étages. Le premier, le seul qu'Anthropic dit appliquer seul et tout de suite : des évaluateurs extérieurs, par exemple du type METR, avec un accès proche de celui d'un employé, pour vérifier les engagements, signaler les incidents, et regarder l'alignement pendant l'entraînement. Le deuxième : des limites communes entre laboratoires de pays démocratiques. Le troisième : des accords vérifiables au-delà. Altman répond sur X qu'il est d'accord et qu'OpenAI fera de même pour les évaluateurs. Musk écrit qu'il est d'accord avec Dario. Le Financial Times, les jours suivants, décrit des équipes en interne prises de court, et une dispute sur la sécurité et la propriété intellectuelle que cet accès suppose.
Au 26 octobre, le geste tenu est l'annonce du premier étage, pas un train de modèles annulé. OpenAI a dit à la presse avoir mis en pause certains entraînements de frontière. Anthropic a dit ne pas pauser la recherche, et vouloir installer un évaluateur. Comme en 2023, l'accord public est plus rapide que le changement de calendrier. À la différence de 2023, le premier étage est une mesure opérationnelle, avec des badges et des ordinateurs, pas seulement une durée.
Ce que le motif montre
Cinq moments, cinq suites.
Asilomar produit des catégories de confinement qui structurent un champ. Weizenbaum produit un livre et une dispute qui ne s'est pas close. GPT-2 produit neuf mois de publication échelonnée, puis un modèle public. La lettre de 2023 produit un texte et pas de pause. Septembre 2026 produit un essai, trois accords de principe de dirigeants, et un dispositif d'évaluateurs encore en train d'être posé.
Ce qui a ralenti des pratiques, dans cette liste, ressemble à des règles écrites : les niveaux d'Asilomar, et, sur un autre continent et pour d'autres obligations, le règlement européen sur l'IA. Ce qui a pris la forme d'un appel à la retenue a parfois retardé une diffusion de quelques mois, et n'a pas, jusqu'ici, changé la pente des capacités d'une année sur l'autre. Les hivers de l'IA ont ralenti le financement, pour d'autres raisons : des promesses non tenues, pas une décision de sagesse collective.
Formulé comme un constat d'archive : le refrain est sincère à plusieurs de ses dates, les gens qui l'écrivent croient ce qu'ils écrivent, et la sincérité n'a pas été le mécanisme qui a ralenti le domaine. Les règles qui désignent un responsable, un local, un accès, une sanction, l'ont davantage fait. Rien dans cette phrase ne dit que l'essai du 12 septembre échouera. Elle dit sur quoi le juger dans un an : les évaluateurs sont-ils dans les pièces, et un entraînement a-t-il été décalé pour leur laisser le temps de lire.
Tenir cette archive sert au prochain couplet : on pose la phrase du jour à côté des phrases déjà datées, et on note ce qui a suivi six mois plus tard. Le lecteur qui veut un geste, plutôt qu'une archive, le trouve dans le mémo travailler avec une IA sans se faire avoir : quoi demander, quoi ouvrir, quoi ne pas coller dans la fenêtre.
