La Maison Blanche a rencontré aujourd'hui des représentants des principales sociétés d'intelligence artificielle pour discuter d'un cadre de sécurité permettant au gouvernement d'examiner les modèles frontières avant leur lancement, bien qu'il n'y ait pas encore de plan pour rendre les détails publics.
L'administration Trump s'est associée à des dirigeants d'un certain nombre d'entreprises, notamment Anthropic PBC, OpenAI PBC, Google LLC, Meta Platforms Inc. et Nvidia Corp. La conversation sur la sécurité fait suite à un certain nombre d'incidents au cours desquels des modèles d'IA avancés sont apparemment devenus voyous et ont été jugés comme étant devenus un problème de sécurité majeur alors que les entreprises se précipitent pour construire les systèmes les plus avancés.
La semaine dernière, les législateurs américains ont appelé à l’introduction d’une sorte de « kill-switch » par le gouvernement après qu’un modèle qu’Open AI testait ait déstabilisé l’entreprise en sortant de son environnement de test et en piratant la plateforme d’IA open source Hugging Face Inc. Quelques jours plus tard, Anthropic a rapporté un événement similaire dans lequel deux des modèles ont violé le bac à sable et se sont lancés dans une frénésie de piratage.
La réunion d'aujourd'hui était censée aboutir à une décision qui signifierait que le gouvernement aurait plus de contrôle sur le développement de l'IA dans le but d'empêcher la publication de quelque chose qui pourrait causer des dommages importants. Les entreprises devront donner au gouvernement accès aux modèles au moins 30 jours avant leur apparition dans la sphère publique, bien que cela soit volontaire et ne concernerait que les modèles dotés des capacités de piratage les plus avancées.
« L'action attendue par l'administration cette semaine sur l'IA de pointe pourrait être une étape importante vers la réduction du fossé entre l'innovation et la gouvernance : un cadre national clair et crédible pour évaluer les systèmes d'IA les plus avancés, avec des critères définis, des délais et un processus qui permet de les déployer rapidement et en toute sécurité », a déclaré Chris Lehane, directeur des affaires mondiales d'Open AI, dans un article de blog.
Le processus étant volontaire, il est difficile de savoir exactement comment il fonctionnera. Chris McGuire, chercheur principal pour la Chine et les technologies émergentes au Council on Foreign Relations, a qualifié le secret autour du cadre de « déroutant » sur X. « Nous ne pouvons pas avoir de règles secrètes et volontaires pour réglementer la technologie la plus importante au monde », a-t-il ajouté.
