Les législateurs américains se préparent à présenter un projet de loi qui donnerait au gouvernement la possibilité de déclencher un arrêt d'urgence des modèles d'intelligence artificielle susceptibles de nuire au public.
Dans ce qui pourrait sembler trop proche de la science-fiction hollywoodienne, la nouvelle arrive deux jours après qu'OpenAI Group PBC a admis que alors qu'il testait un nouveau modèle capable de fonctionner sans commande humaine, il était sorti de son environnement contrôlé. Il a découvert des vulnérabilités et a ensuite piraté la plateforme d'IA open source Hugging Face Inc.
L’incident était le premier du genre, ce que Clément Delangue, directeur général de Hugging Face, a qualifié de « sans précédent », ajoutant qu’il était « époustouflant que tout cela se soit produit de manière autonome ».
Compte tenu des implications pour la sécurité nationale et des risques plus larges pour le public à mesure que les systèmes d'IA sont de plus en plus intégrés dans la vie quotidienne, le principal conseiller technologique du président Donald Trump, Michael Kratsios, a assuré au public que l'administration surveillait de près la situation. En réponse, les législateurs américains ont proposé un « kill switch » fédéral qui permettrait aux autorités de fermer complètement un modèle d’IA agentique qui était manifestement devenu voyou.
Le représentant Ted Lieu, un démocrate, et le représentant républicain Nathaniel Moran ont présenté le « AI Kill Switch Act ». Il donnera au secrétaire du ministère de la Sécurité intérieure, en consultation avec le secrétaire au Commerce et le directeur du renseignement national, la possibilité d'éteindre la machine capricieuse lorsqu'il estime qu'elle pourrait causer des « dommages catastrophiques ».
« En tant que diplômé en informatique, je suis très conscient des possibilités spectaculaires – bonnes et mauvaises – qu'offre l'IA », a déclaré Lieu. « Nous passons d'une IA qui répond aux questions à une IA qui prend des mesures, qu'il s'agisse d'exécuter des transactions financières, de contrôler des systèmes de transport ou de s'engager dans la cyberdéfense et l'offensive. Malheureusement, les systèmes d'IA puissants peuvent devenir malveillants, se comporter de manière extrêmement dangereuse ou même résister à l'intervention humaine. »
La loi exigera que lorsque les développeurs créent un modèle agent, ils y intègrent une fonction qui permettra de le limiter, de le suspendre ou de le désactiver complètement. Si un incident se produit, l’entreprise qui a construit la technologie doit conserver des dossiers médico-légaux pour savoir en temps réel pourquoi l’incident s’est produit.
Bien que les défenseurs de la sécurité de l’IA aient applaudi le projet de loi Kill Switch pour ce que certains considèrent comme du « bon sens », une vision plus cynique de l’événement a conduit certains commentateurs à oser qu’il puisse y avoir un « élément compétitif » dans l’incident. Ils notent qu'Open AI cherche peut-être à mettre en valeur ses capacités technologiques, car son principal rival, Anthropic PBC, attire l'attention pour son mystérieux modèle Claude Mythos.
