Une IA décide-t-elle ? Et nous ?

Une IA décide-t-elle quand deux réponses sortent du même bouton ? Posez deux fois la même question au même outil, sans rien changer, et vous obtenez souvent deux textes. Qui a choisi ? Côté machine, le mot suivant est tiré au sort dans une liste de probabilités. Côté humain, des expériences mesurent une activité cérébrale avant le moment où l'on dit avoir décidé, et deux livres de 2023 se répondent sans se mettre d'accord. Le mot « décider » est le nôtre. L'article le pose sur les deux scènes, et le retire là où il ne tient pas.

Deux réponses, un seul bouton

La scène est reproductible. On ouvre une conversation neuve. On demande une idée de titre, ou une façon de répondre à un message. On recommence dans une seconde conversation, avec la même phrase. Les deux textes se ressemblent et divergent. Rien, dans l'interface, n'a affiché un choix. Le bouton était le même.

Une IA de ce type, un grand modèle de langue, ne consulte pas une intention cachée. À chaque pas, elle calcule une répartition : tel mot est plus probable que tel autre, vu tout ce qui précède. Le système en retient un, puis recommence. « Une IA décide » est une façon de raconter cet enchaînement. Ce n'est pas une description de ce que le calcul contient.

Un dé à beaucoup de faces

L'image qui tient : un dé dont les faces n'ont pas le même poids. Certaines tombent souvent, d'autres presque jamais. Le vocabulaire du modèle est immense. Chaque face est un jeton, un morceau de mot. Le poids de chaque face dépend du texte déjà écrit.

La température est le réglage qui étale ou resserre ces poids. Basse, le dé retombe presque toujours sur les faces les plus lourdes : les réponses se répètent. Haute, des faces rares sortent plus souvent : le texte surprend, et il dérape aussi plus facilement. Quand le fournisseur permet de fixer la graine du tirage, la même graine et la même entrée redonnent la même suite. Le hasard, ici, est un hasard qu'on peut rejouer. Il n'est pas une hésitation.

Dire que la machine « a choisi » le second adjectif ajoute un personnage. Le calcul a produit une suite. L'article sur les réponses inventées montre ce que ce tirage produit quand aucune face ne correspond à un fait : une phrase fluide, quand même.

Un agent, c'est plusieurs tirages à la suite

Un agent enchaîne ces pas et peut appeler des outils entre deux. Chaque appel est encore un tirage, conditionné par ce qui vient d'être renvoyé. L'article sur les agents en production décrit ce que cette chaîne exige quand elle touche un vrai système : un journal, des droits, un arrêt possible. Rien, dans la chaîne, n'ajoute une volonté au milieu. Cela ajoute des conséquences. Une suite de choix probables peut envoyer un mail, modifier un fichier, ou s'arrêter sur une erreur que personne n'a relue.

C'est là que le mot « décision » redevient utile, à condition de le placer au bon endroit. La décision, dans un service, est le cadre fixé par des humains : ce que l'agent a le droit de faire, qui lit le journal, qui coupe. Le tirage, lui, reste un tirage.

Quatre positions sur le geste humain

Le parallèle avec nous commence par une expérience célèbre, et il s'arrête vite si on la survend.

En 1983, Benjamin Libet et ses collègues publient dans la revue Brain une mesure devenue classique. Des volontaires fléchissent le poignet quand ils le souhaitent, et indiquent sur une horloge le moment où ils ont eu l'impression de vouloir le faire. Les auteurs décrivent un potentiel de préparation, une lente variation électrique du cerveau, qui précède le mouvement d'environ une demi-seconde. Le moment rapporté du souhait conscient arrive plus tard, de l'ordre de deux dixièmes de seconde avant le geste. Le papier ne dit pas « le libre arbitre n'existe pas ». Il dit que, dans ce protocole, une activité mesurable précède le moment déclaré de l'intention.

En 2012, Aaron Schurger, Jacobo Sitt et Stanislas Dehaene proposent, dans les PNAS, une autre lecture du même signal. Le potentiel de préparation peut s'expliquer comme une fluctuation de fond, un bruit qui monte et descend, et qui déclenche le geste quand il franchit un seuil. Dans ce modèle, la courbe moyenne que l'on voit en alignant les essais sur le mouvement n'est pas la signature d'une décision qui aurait commencé une demi-seconde plus tôt. C'est la forme qu'on obtient, nécessairement, quand on ne garde que les essais qui ont fini par franchir le seuil. L'article ne clôt pas le débat. Il retire à la courbe de Libet une partie de ce qu'on lui faisait dire.

Deux livres de 2023 prennent des positions plus larges, et elles s'opposent. Dans Determined, Robert Sapolsky soutient que le comportement a des causes, biologiques et sociales, et qu'il n'y a pas de place restante pour un libre arbitre tel qu'on l'invoque d'ordinaire. Dans Free Agents, Kevin Mitchell soutient que les organismes sont des causes : ils agissent en fonction de ce qu'ils sont, et cette action n'est pas un simple rouage poussé de l'extérieur. Nous ne tranchons pas entre eux. Les deux livres existent, ils se répondent, et le geste du poignet de 1983 ne suffit à départager ni l'un ni l'autre.

Le même mot, prédire

Une autre rencontre de vocabulaire prête à la confusion. Andy Clark, notamment dans Surfing Uncertainty (2016), décrit le cerveau comme une machine qui anticipe ses entrées sensorielles et corrige l'écart. Les modèles de langue, eux, prédisent le jeton suivant. Le verbe est le même. L'objet ne l'est pas.

Le cerveau dont parle Clark est branché sur un corps, dans un monde, avec des enjeux de survie et d'action. Le modèle prédit une suite dans un texte, à partir d'autres textes. L'analogie éclaire un point : les deux systèmes s'appuient sur ce qui est probable. Elle s'arrête dès qu'on en conclut que le modèle « fait comme nous » ou que nous « ne faisons que compléter une phrase ». Les dix mots du glossaire de départ suffisent à tenir cette distance : un jeton n'est pas une idée, une probabilité n'est pas un motif.

Où poser la responsabilité

Si le mot suivant est un tirage, la question pratique ne disparaît pas. Quelqu'un a mis le système en service, a choisi les données, a fixé ce qu'il avait le droit d'envoyer. L'article sur la responsabilité quand une IA se trompe place cette charge chez les humains qui déploient, pas dans le dé. Le libre arbitre, comme question de recherche, reste ouvert dans cet article, parce qu'il reste ouvert entre les textes cités. Ce qui n'est pas ouvert, c'est le geste de désigner un responsable quand un texte automatique cause un tort : on le cherche dans la chaîne de décisions humaines, celles d'avant le tirage.

Le mémo Automatisation, de A à Z reprend la même frontière côté métier : ce qu'une chaîne fait toute seule, et ce qu'une personne doit encore signer.

L'épisode suivant de la série part d'une impression voisine. Si le choix ressemble à un tirage, d'où vient le sentiment que certaines coïncidences étaient faites pour nous ?