Sam Altman appelle à la tenue d'un forum international dirigé par les États-Unis pour définir des normes mondiales de sécurité pour l'intelligence artificielle, arguant qu'aucun pays ne devrait être laissé à lui seul pour dominer cette technologie.
Dans un article d'opinion publié mercredi dans le Financial Times, le directeur général d'OpenAI Group PBC (photo) a proposé « un forum international dirigé par les États-Unis qui établirait des normes acceptées, fournirait une analyse experte et impartiale des capacités et des risques et mettrait la technologie à la disposition des nations et des entreprises qui participent et respectent les règles ».
L'organisme rassemblerait des représentants du gouvernement, des experts techniques indépendants et d'autres, a écrit Altman. Il a déclaré que cela pourrait « servir de mécanisme de gouvernance des laboratoires et protéger contre les pressions commerciales qui peuvent conduire à des courses dangereuses ».
Altman a cité comme modèles les règles mondiales de sécurité aérienne, les normes financières internationales et l’Agence internationale de l’énergie atomique. L’AIEA a été créée en 1957 pour contrôler l’énergie nucléaire civile, et ce, alors même que les États-Unis et l’Union soviétique renforçaient leurs arsenaux. L’argument d’Altman est que les puissances rivales ont trouvé le moyen de gouverner ensemble les technologies dangereuses.
Il a présenté le plan en partie comme un moyen de diffuser les avantages de l’IA au-delà d’une poignée d’entreprises. « Tout le monde sur Terre devrait bénéficier de cette technologie et déterminer lui-même la meilleure façon de l'utiliser », a-t-il écrit.
La proposition fait suite à un sommet du Groupe des Sept en France au cours duquel des dirigeants d'OpenAI, Anthropic PBC et Google DeepMind ont rencontré des dirigeants mondiaux et discuté de l'établissement de normes communes pour les modèles d'IA avancés. L'idée d'un forum international a été attribuée à Altman lors de ces négociations.
L’application est la question ouverte. Contrairement aux avions et aux usines d’enrichissement nucléaire, que les inspecteurs peuvent examiner physiquement, les modèles frontières sont formés dans des centres de données avec peu de visibilité extérieure. Cette opacité rend beaucoup plus difficile la vérification si un laboratoire suit un ensemble de règles convenues ou s'il avance en secret.
Altman n’est pas le seul à faire pression en faveur d’une surveillance. OpenAI et Anthropic ont tous deux déjà soutenu l’idée d’un organisme de surveillance international de l’IA. Le directeur général d'Anthropic, Dario Amodei, a plaidé pour des règles plus proches de celles de la Federal Aviation Administration, un modèle plus prescriptif que celui décrit par l'organisme de normalisation Altman.
Cette annonce intervient également alors que Washington resserre son emprise sur l’industrie. OpenAI a accepté de déployer d'abord ses prochains modèles GPT-5.6 auprès d'un groupe de partenaires approuvés par le gouvernement. Anthropic a été brièvement contraint de retirer ses modèles Fable 5 et Mythos 5 le mois dernier après une ordonnance du Département du Commerce restreignant l'accès des étrangers, puis a restauré Fable 5 cette semaine.
La réussite du forum dépend peut-être moins des laboratoires que des gouvernements. Écrivant pour la Brookings Institution, des analystes ont soutenu cette semaine que le G7 devrait accepter l'offre de l'industrie d'aider à définir des normes en matière d'IA, mais seulement à la condition que tout accord qui en résulterait soit rendu exécutoire plutôt que volontaire.
