Qui est responsable quand une IA se trompe ?

La question « qui est responsable quand une IA se trompe » a une réponse juridique moins incertaine qu'on ne le dit : jamais l'IA. Aucun droit au monde ne reconnaît de personnalité juridique à un système logiciel. La responsabilité remonte donc toujours à des personnes, physiques ou morales, et toute la difficulté consiste à savoir laquelle, dans une chaîne qui compte facilement quatre maillons.

Précision d'entrée : cet article n'est pas un conseil juridique. Nous ne sommes pas juristes, et une qualification se tranche sur pièces, dans un pays donné, avec un contrat sous les yeux. Ce que nous pouvons faire, c'est distinguer ce qui est établi de ce qui est encore débattu, et dire ce qu'une PME peut mettre en place sans attendre que le débat se referme.

L'idée d'une « personnalité électronique » est morte

Une confusion tenace mérite d'être évacuée. En février 2017, une résolution du Parlement européen sur la robotique évoquait, pour les robots autonomes les plus sophistiqués, la création à terme d'une « personnalité électronique ». La formule circule encore. Elle n'a jamais été suivie d'effet : une lettre ouverte de plus de 150 experts l'a contestée en 2018, et aucun texte européen adopté depuis, à commencer par le règlement sur l'IA, ne la reprend.

Ce qui reste est un principe ancien : une machine est une chose. Quand une chose cause un dommage, on cherche qui la fabriquait, qui l'employait, qui aurait dû la surveiller. L'IA générative ne crée pas de vide juridique, elle rend l'attribution plus pénible.

La chaîne, maillon par maillon

L'éditeur du modèle conçoit et entraîne le système. Il engage sa responsabilité de fabricant : défaut de conception, absence d'information sur les limites, sécurité insuffisante. C'est le maillon que le droit européen a le plus renforcé, et aussi celui qui se protège le mieux par contrat.

L'intégrateur branche le modèle sur vos données et vos processus. Prestataire au sens classique, il est tenu d'une obligation de moyens sur son travail : choix de l'architecture, filtrage des sorties, tests. Un agent conversationnel qui répond n'importe quoi parce que personne n'a défini de garde-fous est un défaut de prestation avant d'être un défaut de modèle.

L'exploitant, c'est vous, l'entreprise qui met l'outil au contact du public ou de ses salariés. Vous répondez de ce que produit votre organisation. Si votre site affiche une information fausse, le visiteur n'a pas à savoir si elle vient d'un rédacteur, d'un fichier de configuration ou d'un modèle de langage.

L'utilisateur professionnel engage sa responsabilité personnelle quand il signe, valide ou transmet un contenu qu'il n'a pas vérifié. Le titre professionnel, ici, aggrave plutôt qu'il n'excuse : on attend d'un comptable, d'un médecin ou d'un avocat qu'il contrôle sa source.

Ces quatre niveaux ne s'excluent pas. Un même incident peut engager l'exploitant vis-à-vis du client, puis l'intégrateur vis-à-vis de l'exploitant, chacun sur un fondement différent.

Deux affaires qui ont réellement tranché

Moffatt c. Air Canada, tribunal de résolution civile de Colombie-Britannique, 14 février 2024. Un passager consulte l'agent conversationnel du site sur le tarif de deuil ; la machine lui indique qu'il peut demander le remboursement dans les 90 jours suivant le vol, ce que la page officielle contredit. Air Canada refuse, puis soutient devant le tribunal que l'agent conversationnel devait être regardé comme une entité distincte, dont elle n'aurait pas à répondre. Le tribunal écarte l'argument : la compagnie n'explique pas pourquoi un client devrait vérifier une partie de son site contre une autre. Condamnation à 650,88 dollars canadiens pour déclaration inexacte par négligence. Le montant est dérisoire, la portée ne l'est pas : c'est une des premières décisions publiées à refuser explicitement de traiter un agent conversationnel comme un tiers. Décision d'un tribunal provincial, elle ne lie aucune autre juridiction.

Mata c. Avianca, tribunal fédéral de New York, 22 juin 2023. Deux avocats déposent un mémoire citant six décisions inexistantes, produites par ChatGPT, puis fournissent au tribunal de faux extraits générés de la même manière. Le juge Castel prononce une amende de 5 000 dollars et impose l'envoi d'une lettre à chacun des magistrats auxquels une fausse décision avait été attribuée. Le détail qui compte pour nous : le juge écrit qu'utiliser l'outil n'était pas fautif en soi, et que la sanction porte sur le comportement après l'alerte, une fois la partie adverse ayant signalé que les arrêts n'existaient pas. Le manquement n'est pas d'avoir employé une IA, c'est d'avoir tenu bon sans vérifier. Nos lecteurs qui se demandent d'où viennent ces citations fabriquées trouveront le mécanisme détaillé dans notre article sur les hallucinations et pourquoi l'IA invente.

Ce que les fournisseurs écrivent noir sur blanc

C'est le point le moins traité en français, et c'est pourtant celui qu'un dirigeant peut vérifier lui-même en dix minutes. Les conditions générales des grands fournisseurs disent trois choses, avec une constance remarquable.

Premièrement, aucune garantie sur l'exactitude. Les conditions commerciales d'Anthropic, en vigueur depuis le 17 juin 2025, indiquent que l'éditeur ne garantit pas que les sorties soient exactes, complètes ou exemptes d'erreur. Le même document met à la charge du client l'évaluation des sorties avant usage et l'obligation d'avertir ses propres utilisateurs que les affirmations factuelles ne doivent pas être tenues pour vraies sans vérification indépendante. Cette clause n'est pas de la prudence rédactionnelle : c'est un transfert de charge, et il est explicite.

Deuxièmement, un plafond de responsabilité très bas. Chez Anthropic comme dans les conditions professionnelles d'OpenAI, l'indemnisation maximale se ramène aux montants payés sur les douze mois précédents. Pour une PME qui dépense quelques centaines d'euros par an en abonnements, le plafond théorique se compte en centaines d'euros. Les conditions grand public d'OpenAI sont encore plus nettes, avec un plancher de cent dollars retenu comme référence quand le client n'a rien dépensé. Autrement dit : le fournisseur ne financera pas votre litige.

Troisièmement, et c'est l'asymétrie qui mérite qu'on s'y arrête : les mêmes fournisseurs garantissent le droit d'auteur, jamais l'exactitude. Microsoft a lancé son Copilot Copyright Commitment le 1er octobre 2023, Google Cloud a publié une indemnisation en deux volets, données d'entraînement et sorties générées, au même moment. Ces engagements sont réels et conditionnés : offres payantes uniquement, filtres de contenu maintenus actifs, exclusion des marques et des cas où le client savait ou devait savoir que la sortie contrefaisait. Aucun ne couvre l'erreur factuelle.

La lecture est limpide. Le risque juridique que les fournisseurs acceptent de porter est celui qu'ils peuvent maîtriser par la technique, en filtrant les sorties trop proches d'une œuvre protégée. Le risque d'énoncé faux, qui tient à la nature même du modèle, reste chez vous.

Établi, débattu, et ce qui a été abandonné

Établi. La responsabilité du fait des produits défectueux s'applique désormais aux logiciels. La directive (UE) 2024/2853, adoptée le 23 octobre 2024, remplace le texte de 1985 et vise expressément les logiciels et les produits intégrant de l'IA. Elle s'appliquera aux produits mis sur le marché à partir du 9 décembre 2026, date qui est aussi l'échéance de transposition. Elle apporte deux choses aux victimes : un pouvoir d'injonction permettant d'obtenir la divulgation des éléments techniques détenus par le défendeur, et des présomptions de défaut ou de causalité quand la complexité technique rend la preuve excessivement difficile.

Abandonné. La directive sur la responsabilité civile en matière d'IA, proposée le 28 septembre 2022, devait poser une présomption de causalité applicable à tous les systèmes d'IA. La Commission a annoncé son retrait le 11 février 2025 dans les annexes de son programme de travail, faute d'accord prévisible, et le retrait est devenu définitif en octobre 2025. Résultat : hors du champ des produits défectueux, la victime reste sur le droit commun de la responsabilité, avec la charge de la preuve qui va avec.

Débattu. Ce qu'il advient de la faute quand l'humain de contrôle n'est, en pratique, qu'un tampon : cliquer « approuver » sur trois cents propositions par jour n'a pas la valeur d'un contrôle, et aucune décision publiée ne dit où passe la ligne. Débattu aussi, la répartition entre éditeur et intégrateur quand l'erreur naît de la combinaison des deux, un modèle correct branché sur une base documentaire périmée.

Ce qu'une PME peut faire dès maintenant

Rien de ce qui suit ne demande un juriste.

Tracer. Conservez, pour tout usage qui produit un effet vers l'extérieur, la question posée, la réponse obtenue, le modèle et sa version, la date, et l'identité de la personne qui a validé. Sans journal, vous ne pouvez démontrer ni votre diligence ni la défaillance de l'outil. C'est aussi la condition pratique pour se prévaloir des présomptions de la nouvelle directive : on ne demande la divulgation de preuves qu'à partir d'un dossier plausible.

Faire valider par un humain, mais pour de vrai. La validation doit être nominative, tenir sur un point de contrôle explicite, et porter sur ce que la machine ne peut pas garantir : chiffres, noms, dates, références, engagements contractuels. Une relecture de style n'est pas un contrôle. Là où l'erreur coûte cher, prévoyez que la sortie ne parte jamais directement au client.

Écrire au contrat. Avec un intégrateur, quatre points valent d'être négociés : le périmètre exact des usages couverts, les obligations de test et de garde-fous à sa charge, le plafond de responsabilité, et le sort des données. Le plafond est le point dur. Un plafond ramené aux honoraires des douze derniers mois est courant ; sachez au moins que vous l'acceptez plutôt que de le découvrir après.

Interroger votre assureur. Les garanties de responsabilité civile professionnelle n'ont pas été rédigées en pensant aux sorties d'un modèle de langage. Posez la question par écrit, et gardez la réponse.

Ce raisonnement vaut au Maroc comme en Europe pour la partie contractuelle, puisque les conditions générales des fournisseurs s'appliquent partout ; il diffère sur le régime légal, le Maroc n'ayant pas de texte dédié à l'IA. L'exigence de traçabilité rejoint enfin un débat plus large sur ce que ces systèmes reproduisent sans le dire, que nous avons abordé dans notre article sur l'origine des biais algorithmiques : une décision qu'on ne peut pas expliquer est aussi une décision qu'on ne peut pas défendre.

Le fond du sujet n'est pas de savoir qui paiera. C'est d'admettre que la question se pose avant l'incident, pas après.