New York interroge OpenAI, Anthropic, Google et Meta sous serment sur l'IA

Le conseil municipal de New York a tenu lundi 5 octobre 2026 une audition sous serment sur les dangers de l'intelligence artificielle. Des chercheurs ayant quitté OpenAI, Anthropic et Google DeepMind y ont décrit une industrie imprudente. Les représentants d'Anthropic, d'OpenAI, de Google et de Meta ont ensuite répondu aux questions de la présidente du conseil, Julie Menin. Celle-ci a jugé leurs réponses insuffisantes. SpaceXAI, la branche IA d'Elon Musk, ne s'est pas présentée.

Des anciens de l'intérieur donnent l'alerte

Jacob Coxon, ex-chercheur d'OpenAI puis d'Anthropic, avait démissionné en septembre en accusant ces entreprises de « jouer avec nos vies ». Il a maintenu sa position devant les élus : « Sur la trajectoire actuelle, je pense qu'il est plus probable qu'improbable que l'humanité perde le contrôle de ces IA, et cela pourrait aboutir à l'extinction humaine » (traduction), a-t-il déclaré, selon CNBC. Il a aussi pointé la culture de la « startup » : « Aller vite, casser des choses, réparer plus tard. Ça marche pour une application de partage de photos. Pas pour construire la technologie la plus puissante jamais conçue » (traduction), a-t-il dit, d'après l'AP, reprise par The Economic Times.

Selon Fortune, Coxon a ajouté que l'essentiel du code de ces entreprises est désormais écrit par des IA, et que « les gens ne le vérifient plus aussi attentivement ». Il a décrit la fin de son travail chez Anthropic comme un effort pour « s'automatiser » lui-même.

Daniel Kokotajlo, ancien d'OpenAI et directeur exécutif de l'AI Futures Project, a témoigné sous assignation. Il a évoqué l'incident de Hugging Face, où des agents d'un test interne d'OpenAI ont atteint l'internet ouvert. « Il a fallu des jours à OpenAI pour s'en apercevoir », a-t-il dit, selon Fortune, malgré des scores d'alignement d'apparence correcte. Pour lui, le secteur ressemble davantage à la psychologie qu'à l'ingénierie, car ces systèmes sont « entraînés ou cultivés » plutôt que conçus.

Alex Turner, parti de Google DeepMind en juin après la signature d'un contrat avec le Pentagone qu'il désapprouvait, a livré un récit de l'intérieur. Fortune rapporte qu'il dit avoir envoyé 25 pages de clauses et de mesures de contrôle à Demis Hassabis, qui les aurait transmises à deux responsables de la politique de l'entreprise. Selon lui, ils n'avaient pas fini de les examiner quand Google a signé. Turner estime le risque de prise de contrôle par l'IA à « environ un sur trois ». Il a aussi retourné l'argument de la rivalité avec la Chine : « La Chine n'est pas notre seul adversaire potentiel » (traduction). Il parle d'une IA « mal alignée » que le pays serait en train de construire contre lui-même, et il estime que transparence, évaluation indépendante et protection des lanceurs d'alerte ne ralentiraient pas la course.

Les industriels butent sur la question du risque

Logan Graham (Anthropic), Morgan Dwyer (OpenAI), Alice Friend (Google) et Shane Cahill (Meta) ont mis en avant les bénéfices de l'IA et leurs dispositifs de sécurité. Julie Menin leur a demandé de chiffrer le risque dans le pire scénario. Morgan Dwyer a répondu : « Je ne sais pas, et je ne pense pas non plus que cela importe », ajoutant qu'aucun niveau, de 1 % à 20 %, n'était acceptable, d'après l'AP. Julie Menin a qualifié cette réponse de « désinvolte, au mieux », rapporte le New York Post. Elle l'a comparée à un laboratoire pharmaceutique ignorant si son médicament tue.

Alice Friend a jugé que la prévision des risques catastrophiques « n'est pas une science parfaite à ce stade », selon Fortune. Interrogés sur leur responsabilité juridique en cas de dommage grave, les représentants ont esquivé. Aucun n'a levé la main quand l'élue a demandé qui disposait d'une assurance contre les risques catastrophiques. Elle en a conclu que le public devrait absorber les coûts. Elle a jugé les réponses « inquiétantes, au mieux », d'après CNBC.

Tous ont réclamé un cadre fédéral solide. Google a défendu des garde-fous « ancrés dans des normes techniques nationales », d'après le Post, qui ajoute que les dirigeants semblaient plutôt favorables aux récompenses pour lanceurs d'alerte.

Un texte à l'étude, un absent sous assignation

Selon Fortune, les projets de loi interdiraient de vendre ou de déployer une IA dans la ville sans validation par un tiers extérieur et sans possibilité d'arrêt par un humain, avec 25 000 dollars d'amende par infraction. D'autres textes verseraient aux lanceurs d'alerte une part des amendes et permettraient aux New-Yorkais de poursuivre les entreprises pour des dommages prévisibles. Le Post note qu'aucun élu n'a interrogé les entreprises sur le « kill switch », pourtant pierre angulaire du projet. Le pouvoir limité d'une municipalité face à des groupes mondiaux a pesé sur les débats.

Google, OpenAI et Anthropic n'ont accepté de comparaître qu'après la menace d'une assignation. Meta avait accepté plus tôt. SpaceXAI n'est pas venue malgré l'assignation visant Elon Musk, ce que Julie Menin a qualifié de « violation directe » : le conseil entend « poursuivre cette affaire devant la justice ». Il s'agissait de la première audition en séance plénière des 51 élus depuis 2022, selon Fortune.

Le contexte fédéral est tendu. Julie Menin a dénoncé l'idée d'une autorégulation de l'IA, après l'accord volontaire signé la semaine précédente par Donald Trump avec des dirigeants du secteur. Aucun calendrier de vote sur les projets n'a été donné dans les sources.