Google LLC, Microsoft Corp. et xAI ont convenu de partager des versions inédites de leurs modèles d'intelligence artificielle avec le ministère américain du Commerce afin de garantir que ces technologies ne constituent pas une menace.
Aujourd'hui, le Center for AI Standards and Innovation, CAISI, qui fait partie du ministère du Commerce, a annoncé qu'il se chargerait de tester les modèles dans le but de protéger la sécurité nationale des États-Unis, avec la responsabilité de la cybersécurité, de la biosécurité et des armes chimiques.
Alors que l'administration actuelle semble adopter une approche de laissez-faire à l'égard des systèmes d'IA puissants et de leur développement, les problèmes de sécurité se sont accrus depuis la publication partielle du modèle Claude Mythos d'Anthropic PBC. « Une science de mesure indépendante et rigoureuse est essentielle pour comprendre l’IA aux frontières et ses implications en matière de sécurité nationale », a déclaré le directeur du CAISI, Chris Fall, dans un communiqué. « Ces collaborations élargies avec l’industrie nous aident à intensifier notre travail dans l’intérêt public à un moment critique. »
OpenAI Group PBC et Anthropic ont été les premières sociétés d'IA à autoriser CAISI à examiner leurs modèles après avoir conclu un accord avec l'administration Biden il y a environ deux ans. CAISI aurait déjà réalisé des dizaines d’évaluations de modèles d’IA, notamment sur des modèles de pointe inédits.
Le New York Times a rapporté plus tôt cette semaine que l'administration Trump discutait d'un décret qui réunirait des dirigeants du secteur technologique et des responsables gouvernementaux dans un groupe de travail où ils créeraient un processus d'examen formel de tous les nouveaux modèles d'IA. Ce sera une volte-face pour la Maison Blanche, qui a adopté une approche non interventionniste en matière de développement de l’IA alors que les États-Unis tentent de garder une longueur d’avance sur la Chine.
« Nous ne pouvons pas l'arrêter avec la politique », a déclaré Trump l'année dernière lors d'un événement sur l'IA. « Nous ne pouvons pas l'arrêter avec des règles stupides, voire des règles stupides. »
Mais avec les craintes croissantes du public autour de l’IA concernant la perte d’emploi, la santé mentale et la cybersécurité, il semble que le gouvernement pourrait désormais s’orienter vers une approche plus prudente tout en se méfiant d’une réglementation excessive.
