OpenAI a signalé une menace sans appeler la police. Une province porte plainte.

Le lundi 21 septembre, le gouvernement de la Colombie-Britannique a déposé une plainte contre OpenAI et son directeur général, Sam Altman, devant la Cour de district des États-Unis à San Francisco. La procureure générale de la province, Niki Sharma, a qualifié cette action de poursuite contre OpenAI « pour ne pas avoir alerté les forces de l'ordre des menaces proférées sur sa plateforme avant la fusillade de masse survenue à l'école secondaire de Tumbler Ridge ».

Je veux être prudent avec ce sujet. Huit personnes sont mortes, dont cinq élèves âgés de 12 et 13 ans, et les faits qui comptent seront établis devant un tribunal, pas sur Medium. Mais cette plainte soulève une question que toute équipe qui met en production un produit d'IA devra affronter tôt ou tard, et mieux vaut y répondre à l'avance que sous citation à comparaître.

Ce qui s'est passé, d'après les éléments publics

Le 10 février 2026, une jeune femme de 18 ans a tué sa mère et son demi-frère à leur domicile, puis s'est rendue à l'école secondaire de Tumbler Ridge, une petite ville du nord-est de la Colombie-Britannique, où elle a tué cinq élèves et un membre du personnel avant de se donner la mort. Environ deux douzaines d'autres personnes ont été blessées.

Selon des plaintes déposées plus tôt par des familles, les systèmes automatisés d'OpenAI avaient signalé son compte ChatGPT huit mois plus tôt, en juin 2025, pour « activité et planification de violence armée ». Les plaignants affirment que les propres enquêteurs de l'entreprise ont examiné les conversations, jugé qu'elles représentaient une menace crédible de violence armée contre des personnes réelles, et recommandé de contacter la Gendarmerie royale du Canada (GRC), et que cette recommandation n'a pas été suivie. OpenAI conteste certains éléments de ce récit, notamment qui a pris part à la décision.

Ce qu'OpenAI a déclaré, c'est qu'elle a désactivé le compte, que la tireuse a ensuite créé un second compte et continué à échanger avec ChatGPT, et que l'entreprise n'a eu connaissance de ce second compte qu'après la fusillade. En avril, Altman a écrit à la communauté : « Je suis profondément désolé que nous n'ayons pas alerté les forces de l'ordre au sujet du compte qui a été banni en juin. »

La plainte de la province s'attarde justement sur ce dernier mot. D'après les comptes rendus de la procédure, elle soutient que le compte a été désactivé et non banni, sans interdiction au niveau de l'utilisateur, sans surveillance renforcée ni garde-fous spécifiques, ce qui aurait, selon elle, « reconfié » ChatGPT à une personne que la propre équipe de sécurité de l'entreprise avait identifiée comme une menace réelle. Sa phrase la plus citée est sans détour : « un seul appel téléphonique à la GRC aurait pu empêcher la tragédie. »

La Colombie-Britannique, avec le district scolaire local, réclame des dommages et intérêts, dont le coût de construction d'une nouvelle école secondaire, ainsi qu'une injonction du tribunal obligeant OpenAI à mettre en place des garde-fous qui « refusent, mettent fin ou désamorcent de façon fiable » ce type de conversations. Sharma affirme également que la province a demandé à consulter les conversations de la tireuse et qu'OpenAI a refusé de les communiquer. Dans sa déclaration, elle dit avoir écrit aux ministres fédéraux pour proposer des modifications au Code criminel du Canada « afin de garantir une voie vers une responsabilité humaine pour les actions de l'IA ».

Ce n'est pas la première procédure. Des familles de sept victimes avaient déjà porté plainte en avril, et NPR a rapporté début septembre que trente plaintes supplémentaires avaient été déposées à San Francisco par des personnes présentes à l'école ce jour-là, parmi lesquelles des élèves, des enseignants et la direction de l'école.

La question pour le reste d'entre nous

Si on met de côté les détails de l'affaire, il reste quelque chose d'inconfortable. Un classificateur qui signale une conversation crée une connaissance. À partir de ce moment-là, l'entreprise sait quelque chose. Ce qu'elle fait ensuite est une décision, et ne rien faire en est une aussi.

La plupart des équipes à qui je parle disposent d'une forme de modération automatisée : un modèle qui note les messages sur l'automutilation, la violence, les abus, l'injection de prompt. Très peu ont écrit noir sur blanc ce qui se passe après un score élevé. Qui lit le signalement ? Dans quel délai ? À partir de quel seuil un signalement devient-il une escalade, et qui a le droit de décider que ce n'est pas le cas ? Cette décision est-elle consignée, avec un nom en face ? Et quand la réponse est « on désactive le compte », qu'est-ce que ça empêche réellement, dans un produit où créer un nouveau compte prend deux minutes ?

Aucune de ces questions ne concerne le modèle. Ce sont des questions de processus, et d'autres secteurs y ont déjà répondu : les banques déposent des déclarations d'activité suspecte, les plateformes organisent des astreintes de modération et de sécurité, les hôpitaux appliquent des protocoles d'escalade. Ce qui est nouveau, c'est que les produits d'IA génèrent ces signaux à une échelle et avec une intimité que personne n'avait anticipées. Les gens racontent aux chatbots des choses qu'ils ne racontent à personne d'autre.

Ce que j'en retiens

Je dirige l'ingénierie d'un produit LegalTech. Nos risques ne sont pas celui-là, et je ne vais pas prétendre le contraire. Mais le principe se transpose directement : chaque signal automatisé que nous produisons sur un utilisateur devrait avoir un responsable, un seuil décidé à l'avance, et une trace de ce qui en a été fait. Un signalement qui ne mène nulle part n'est pas neutre. Plus tard, c'est la preuve que l'on savait.

Les tribunaux décideront de ce qu'OpenAI devait aux habitants de Tumbler Ridge. Le reste de l'industrie n'a pas besoin d'attendre ce jugement pour décider de ce qu'elle doit à ses propres utilisateurs.

Sources

• Gouvernement de la Colombie-Britannique, « Déclaration de la procureure générale sur le dépôt d'une action en justice de la C.-B. contre OpenAI », 21 septembre 2026 : l'annonce officielle de la province concernant la plainte et la déclaration de la procureure générale Niki Sharma
• CBC News, 21 septembre 2026 : les victimes, les excuses d'Altman, le district scolaire coplaignant
• Canada's National Observer, 22 septembre 2026 : la procédure judiciaire, désactivation contre bannissement, « un seul appel téléphonique », dommages et intérêts et injonction demandés, refus de communiquer les conversations
• NPR, 2 septembre 2026 : le signalement de juin 2025, le second compte, les allégations des plaignants et la réponse d'OpenAI, les plaintes antérieures