Le pionnier de l’intelligence artificielle, Demis Hassabis, a appelé aujourd’hui à la création d’un organisme de normalisation axé sur la réglementation des modèles frontières.
Hassabis, directeur général de Google DeepMind, a proposé dans un Essai de sous-pile que les États-Unis devraient diriger cet effort. Axios a rapporté que l'exécutif avait eu des discussions sur l'initiative avec la Maison Blanche, des responsables européens et des laboratoires d'IA concurrents. Hassabis a déclaré à la publication qu'il espérait lancer l'organisme d'ici la fin de l'année.
Le plan est de demander à l’organisation de créer des références pour mesurer les risques liés à l’IA. Ces critères, écrit Hassabis, évalueraient les capacités des modèles pionniers dans des domaines sensibles tels que la cybersécurité et la recherche en biologie. Il a ajouté que les évaluations devraient également détecter les modèles d’IA trompeurs.
« Des tests spécifiques d'IA agentique pourraient rechercher des tentatives de contournement des garde-fous de sécurité ou des signes de tromperie, et garantir les meilleures pratiques, telles que le filigrane numérique des images générées par l'IA et la génération de jetons de sortie lisibles par l'homme pour comprendre le raisonnement du modèle », a écrit Hassabis.
Les critères d’évaluation des risques peuvent devenir obsolètes avec le temps. Selon Hassabis, le système de surveillance de l’IA proposé devrait relever le défi en actualisant ses tests tous les trimestres. Il a ajouté que la cadence de mise à jour pourrait être accélérée au fil du temps.
Hassabis soutient que l’organisme de surveillance de l’IA devrait s’inspirer de la Financial Industry Regulatory Authority, ou FINRA. Il s'agit d'une organisation qui réglemente les courtiers et autres acteurs du secteur financier aux États-Unis. La FINRA est une organisation à but non lucratif financée par les sociétés qu'elle réglemente, mais qui opère sous la supervision de la Securities and Exchange Commission des États-Unis.
Tester un modèle d’IA avancé pour détecter les risques nécessite une quantité importante de matériel. Hassabis propose que le secteur privé fournisse l'essentiel de l'infrastructure et des talents techniques nécessaires. Selon l'exécutif, le travail de l'organisme de surveillance devrait être dirigé par un conseil composé « d'experts techniques indépendants de premier plan et de représentants de l'open source ».
Selon Hassabis, l'organisme de normalisation pourrait commencer ses travaux en lançant un programme volontaire d'évaluation des risques pour les laboratoires d'IA. Les participants pouvaient soumettre leurs modèles pour examen 30 jours avant de les rendre largement disponibles. L’objectif du programme, écrit Hassabis, serait d’éclairer le développement d’un protocole formel d’évaluation des risques liés à l’IA qui pourrait devenir obligatoire ultérieurement.
« Une fois que le protocole d'évaluation s'est avéré efficace et robuste, la formalisation pourrait rapidement suivre, ce qui signifie que Frontier Models serait tenu de le réussir pour être déployé sur le marché américain », a écrit Hassabis. « Les laboratoires travailleraient également avec l'organisme de normalisation pour remédier à toute vulnérabilité critique post-publication. »
L'initiative intervient environ un mois après que le PDG d'Anthropic PBC, Dario Amodei, a lancé une idée similaire. L'exécutif écrit un essai suggérant que le gouvernement américain devrait créer un nouveau cadre pour réglementer l'IA. Selon Amodei, le cadre pourrait s'inspirer de la manière dont la Federal Aviation Administration supervise le secteur de l'aviation.
