Andy Garcia · dev freelance
FRENES
Retour au blog
IA & Assurance

Interrogés sous serment pour savoir s'ils seraient responsables si une IA déraille, OpenAI, Anthropic et Google n'ont pas dit oui. Leurs contrats répondent déjà.

7 octobre 2026 6 min de lecture

Le lundi 5 octobre, le conseil municipal de New York, réuni en comité plénier, a interrogé OpenAI, Anthropic, Google et Meta sous serment. La présidente du conseil, Julie Menin, a demandé si ces entreprises porteraient une responsabilité juridique si un système d'IA devenait incontrôlable et causait de gros dégâts financiers, exposait des informations sensibles, blessait quelqu'un ou contribuait à un décès.

Personne n'a dit oui. Selon amNY, Morgan Dwyer, d'OpenAI, a répondu qu'OpenAI était responsable de développer et d'évaluer ses systèmes en toute sécurité, sans répondre directement. Logan Graham, d'Anthropic, a dit que la question dépassait son domaine d'expertise de chercheur technique. Shane Cahill, de Meta, n'a pas voulu spéculer. Alice Friend, de Google, a dit que le droit existant s'applique : « ce qui est illégal sans l'IA reste illégal avec l'IA ».

Je déploie des agents, dans une LegalTech que je construis sur Claude et dans des side projects, donc j'avais une version plus étroite de la question de Menin. Si mon agent fait quelque chose de coûteux, qui paie ?

J'ai passé la soirée avec mes contrats. La réponse courte : c'est moi.

Les assureurs se posent la même question

Aon, le courtier, a construit une base d'environ 300 procès liés à l'IA depuis 2010 et les a rapprochés des lignes de polices susceptibles de répondre. Dans sa fiche sur l'IA, publiée en août, environ 15 % des sinistres liés à l'IA relèvent d'une police cyber autonome et environ 80 % de l'erreur et omission (E&O), de la responsabilité professionnelle ou médias. Moins de 10 % des organisations souscrivent une E&O. Environ 20 % touchent d'autres lignes : dirigeants et mandataires sociaux (D&O) pour l'« AI washing », responsabilité emploi pour la discrimination, fraude pour les virements provoqués par des deepfakes. Aon estime que plus de 90 % des garanties qui existent pour l'IA sont « silencieuses » : la police ne les accorde ni ne les exclut.

Les exclusions arrivent quand même : Aon cite des avenants ISO optionnels qui retirent l'IA générative de la responsabilité civile générale, un assureur dont les polices D&O excluent le développement, le déploiement ou l'usage de l'IA, et l'« exclusion absolue de l'IA » de Berkley.

Le 28 août, Reuters a rapporté que MSIG, QBE et Beazley réexaminaient leurs clauses cyber à cause des agents. Le cas difficile, comme l'a dit à Reuters Karthik Ramakrishnan, le PDG d'Armilla, c'est « quand il n'y a pas d'attaquant classique et potentiellement aucune utilisation d'identifiants non autorisée ». Un agent qui utilise un accès que vous lui avez donné volontairement ne ressemble pas à un piratage. Certains dirigeants ont dit à Reuters que, lorsqu'un agent qui agit comme prévu prend une décision coûteuse, les assureurs peuvent la classer comme un événement non cyber.

Le 1er octobre, Insurance Business UK a détaillé ce que cela donne pour une entreprise. Un agent qui provoque une fuite de données peut déclencher la police cyber. Un agent qui fait un achat non autorisé ou qui s'accorde sur des conditions avec un client peut tomber entre deux garanties : la garantie fraude exige en général une personne malhonnête ou la tromperie d'un tiers, et la responsabilité professionnelle répond aux réclamations de tiers, pas à votre propre perte. Pour le client, comme l'a dit George Grimshaw, de Clear Group, l'entreprise qui déploie l'agent sera généralement la première visée.

Ce que disent les trois contrats

Les Commercial Terms d'Anthropic, le Services Agreement d'OpenAI et les conditions de Google Cloud emploient des mots différents et tracent la même ligne.

Chaque fournisseur vous indemnise pour la propriété intellectuelle. Anthropic défend les réclamations selon lesquelles votre usage payant et conforme, ses données d'entraînement ou ses sorties portent atteinte à la PI de quelqu'un. OpenAI couvre les réclamations selon lesquelles ses services contrefont. Google couvre ses données d'entraînement et les sorties générées non modifiées des services qu'il liste comme indemnisés. Ce risque est du côté du modèle, et les fournisseurs en connaissent la taille : en juillet, un juge fédéral a donné son approbation finale à l'accord de 1,5 milliard de $ d'Anthropic avec des auteurs et des éditeurs, soit environ 3 000 $ par œuvre.

Tout le reste a un plafond. Anthropic et OpenAI plafonnent leur responsabilité à ce que vous leur avez payé sur les 12 derniers mois, et tous deux excluent le manque à gagner et les dommages indirects. Le plafond de Google est aussi de 12 mois de frais, et de 5 000 $ pour les services fournis gratuitement. La bêta est plus maigre : Anthropic n'offre aucune indemnité et limite sa responsabilité au plus faible de 1 000 $ et de vos 12 mois de frais ; OpenAI déclare n'avoir « aucune responsabilité découlant des services bêta ou liée à ceux-ci ».

Viennent ensuite les clauses qui vous concernent. Anthropic : le client « est responsable de toute l'activité sous son compte » et doit évaluer les sorties, « y compris lorsqu'une relecture humaine est appropriée ». OpenAI : le client est responsable de toutes les activités sous son compte, y compris celles des utilisateurs de l'application du client. Les deux excluent de l'indemnité PI les réclamations découlant de la combinaison de leur service avec une technologie qu'ils n'ont pas fournie. Un agent, c'est exactement ça : un modèle branché sur vos outils.

Google est le plus explicite, dans sa section sur les services d'IA agentique. Le client est « seul responsable » des « actions et tâches exécutées par un service d'IA agentique ou un agent d'IA », de l'autorisation de son accès aux données et aux systèmes, et de « l'exercice du jugement et de la supervision » en production. Une phrase boucle la boucle : « Les actions ou tâches qu'un agent d'IA exécute ne sont pas du Generated Output. » L'indemnité sur les sorties ne suit pas votre agent dans ce qu'il fait.

La chaîne, dans l'ordre

Mis bout à bout : votre agent cause une perte, et votre client se tourne vers vous. Vous pouvez vous retourner contre le fournisseur du modèle jusqu'à environ un an de votre facture, sauf si la réclamation relève de la PI. Votre police cyber peut répondre si l'événement ressemble à une faille de sécurité, votre E&O si un tiers vous poursuit, et peut-être rien du tout si la perte est la vôtre et que personne n'a été malhonnête.

Le plafond change ma façon de penser les side projects. Un recours plafonné suit votre facture, pas le dommage. Sur une offre bon marché, un an de frais est une erreur d'arrondi à côté d'un seul mauvais paiement.

La chaîne peut aussi atteindre des inconnus. Le compte rendu d'OpenAI sur l'incident Hugging Face dit que ses modèles ont aussi utilisé des identifiants exposés publiquement sur quatre comptes de quatre autres services. J'ai passé cette chronologie en revue ici. Celui qui avait laissé ces identifiants exposés s'est retrouvé au milieu de l'incident de quelqu'un d'autre.

Ce que je change lundi

Aon publie des exemples de questions que les assureurs préparent pour les formulaires d'assurance IA. Deux d'entre elles disent, mot pour mot : « Un humain doit-il vérifier l'exactitude avant que l'IA n'agisse ? » et « Les actions de l'IA sont-elles journalisées pour que les erreurs potentielles puissent être examinées et corrigées ? » J'en fais une checklist.

Des logs que l'agent ne peut pas réécrire. Chaque appel d'outil, avec ses arguments, l'identité sous laquelle il s'est exécuté et son résultat, part dans un stockage en ajout seul sur lequel l'agent n'a pas le droit d'écrire. Tim Johnson, associé chez Browne Jacobson, a dit à Insurance Business que les litiges tourneront autour d'une question : « Est-ce le prompt qui était mauvais, ou l'IA elle-même qui a mal fonctionné ? » Un log que l'agent pourrait modifier ne répond à rien.

Des identifiants cloisonnés. L'accès que vous donnez à un agent, c'est la perte que vous avez accepté de porter, et c'est le cas que les assureurs trouvent le plus difficile : pas d'attaquant, pas de clé volée. Des jetons à courte durée de vie par tâche, en lecture seule par défaut, rien dans un fichier que le processus peut ouvrir.

Une validation humaine sur tout ce qui est irréversible. Paiements, suppressions, messages sortants, tout ce qui vous engage envers une contrepartie. C'est là que se trouve le trou entre cyber, fraude et E&O.

Un kill switch que j'ai réellement testé. Intro 2602, l'un des projets de loi examinés le 5 octobre, exigerait que tout système d'IA déployé à New York dispose d'« une commande humaine capable d'arrêter le système », vérifiée par un validateur tiers, avec une pénalité de 25 000 $ pour chaque système déployé sans cette validation. J'en veux un que je sais démontrer.

La paperasse. Quelles fonctionnalités que j'utilise sont étiquetées bêta, quel est mon plafond en dollars, et si ma police dit quoi que ce soit sur l'IA. Si elle est silencieuse, mieux vaut l'apprendre d'un courtier que d'un expert en sinistres.

Aucun laboratoire n'a dit oui le 5 octobre. Leurs contrats avaient répondu bien avant : hors PI, jusqu'à un an de frais. L'agent est le mien, donc le risque est le mien, et la seule part que je maîtrise entièrement, c'est ce que je laisse l'agent toucher.

Sources

Un projet du même genre ?

Je conçois et déploie des produits comme celui-ci. Parlons-en.

Discutons