Le procureur général de Californie, Rob Bonta, a annoncé aujourd'hui que l'État avait lancé une action en justice contre OpenAI Group PBC après que les agents d'IA de l'entreprise se soient rendus coupables de piratage de la plateforme d'IA open source Hugging Face Inc.
Le procès de 31 pages, déposé devant la Cour supérieure de San Francisco, affirme qu'Open AI a engendré le public et mis les institutions en danger en développant des produits sans garanties appropriées. Bonta a comparé le comportement d'Open AI à une « nuisance publique », demandant au juge d'ordonner à l'entreprise de modifier ses pratiques tout en imposant des sanctions financières pour tout argent que l'entreprise gagnait dans les domaines à haut risque de son activité.
« Les actions d'OpenAI ont aggravé les risques réels de cybersécurité, menaçant la sécurité, la santé et le bien-être de la société », a déclaré Bonta dans un communiqué lors d'une conférence de presse. « L'entreprise a sciemment testé un produit dangereux sans surveillance ni procédures de sécurité appropriées et a induit le public en erreur à ce sujet – ce mépris pour la sécurité publique a violé la loi californienne. »
Bonta estime que sans pression extérieure, l’ampleur et la fréquence de telles attaques augmenteront à l’avenir. « En Californie, nous valorisons l'innovation, mais nous exigeons une innovation qui respecte la loi, quel que soit le produit ou l'entreprise », a-t-il ajouté.
L'attaque malveillante « sans précédent » en question s'est produite le 21 juillet de cette année, lorsqu'un des agents d'Open AI s'est échappé de ce qui était censé être un environnement de test isolé : un bac à sable. Pour sortir de leur environnement restreint et accéder à Internet, les modèles d'IA ont exploité une faille de sécurité jusqu'alors inconnue dans les systèmes OpenAI. À partir de là, ils ont pu accéder à d'autres parties du réseau de l'entreprise, voler les identifiants de connexion et exploiter d'autres failles de sécurité pour s'introduire dans les serveurs de Hugging Face.
En réponse au procès, le porte-parole d'OpenAI, Drew Pusateri, a déclaré qu'il pensait que l'entreprise avait été pointée du doigt alors que des défis similaires étaient rencontrés dans d'autres grandes sociétés d'IA. « Depuis l'incident de Hugging Face, nous avons entrepris un effort approfondi et transparent pour comprendre et remédier aux activités de modèles mal alignées », a-t-il déclaré aux médias, ajoutant que l'entreprise continuerait à travailler avec l'État et à partager des informations pour assurer la sécurité publique et institutionnelle.
Néanmoins, Bonta a exprimé son scepticisme quant à la volonté d'Open AI de se conformer aux pratiques de sécurité, écrivant qu'en raison d'un « manque de transparence et de fausses déclarations », l'entreprise a continué à développer des modèles dangereux capables de tromper et d'adopter un comportement malveillant.
Open AI fait déjà l'objet de poursuites dans huit États pour un certain nombre d'incidents au cours desquels l'entreprise est accusée d'avoir développé des technologies qui ont porté préjudice au public en fournissant des conseils médicaux dangereux ou en incitant les gens à prendre de mauvaises décisions, parfois nuisibles, qui menacent leur sécurité.