Huit États américains ont intenté des poursuites contre OpenAI Group PBC, accusant la startup d'intelligence artificielle de commercialiser un produit dangereux dans ChatGPT.
Les poursuites intentées par l'Iowa, le Kansas, le Nebraska, la Virginie occidentale, l'Arkansas, l'Arizona, l'Idaho et le Montana allèguent que ChatGPT a porté préjudice à plusieurs enfants et trompé des milliers de parents. Les États poursuivent individuellement la société devant leurs propres tribunaux, a déclaré la procureure générale de l'Iowa, Brenna Bird.
Dans le cas de l'Iowa, le procès est une tentative de « faire valoir les droits des Iowans affectés par la conduite délibérée, dangereuse, imprudente et illégale d'OpenAI », a déclaré Bird dans un communiqué. « OpenAI fait du mal aux enfants et ils mentent aux Iowans. OpenAI prétend que ChatGPT est sûr tout en donnant des conseils médicaux dangereux, en encourageant les gens à blesser les autres et en les incitant à se suicider – tout en prétendant être leur faux ami. Mon procès concerne la protection des enfants et la tenue d'OpenAI responsable en vertu de la loi de notre État. «
En réponse aux poursuites, le porte-parole d’OpenAI, Drew Pusateri, a déclaré que la société avait déjà intégré dans ChatGPT des protections spécifiques à l’âge qui « manquent à de nombreux autres produits d’IA ». Il a également déclaré que l'entreprise travaillait en étroite collaboration avec les États américains pour faire progresser les politiques en matière d'IA qui seraient appliquées à l'ensemble du secteur. « Bien qu'aucun système ne puisse être parfait, nous continuerons à travailler avec des experts pour éclairer notre travail et mettre en place des garanties supplémentaires, telles que les contrôles parentaux, les rappels de pause et les modèles de protection adaptés à l'âge qui existent aujourd'hui », a ajouté Pusateri.
Les multiples poursuites surviennent à un moment où OpenAI fait l'objet d'une surveillance croissante concernant la sécurité de ses produits et ses pratiques de sécurité. Les efforts déployés pour protéger les enfants qui utilisent ses produits ont suscité de nombreuses inquiétudes. L'entreprise fait face à un certain nombre de poursuites l'accusant de mort injustifiée, où ChatGPT est accusé d'avoir poussé les utilisateurs à avoir des délires nuisibles et, dans certains cas, même à se suicider.
Ces affaires font suite à une décision similaire prise par le procureur général de Floride, James Uthmeier, en juin. Ce mois-là, il a également intenté une action en justice contre OpenAI, l'accusant d'avoir sciemment publié un produit dangereux susceptible de nuire à ses utilisateurs. Uthmeier a suivi en septembre en demandant qu'un tribunal d'État interdise à l'entreprise de développer ses modèles frontières les plus puissants sans la surveillance d'un tiers, affirmant que sa « croissance incontrôlée » est dangereuse pour les Floridiens.
En réponse à certains des incidents pour lesquels elle a été accusée, OpenAI s'est efforcé d'améliorer les fonctionnalités de sécurité de son application. En août, elle a lancé une version dédiée du chatbot pour les mineurs, connue sous le nom de ChatGPT for Teens. Il comporte des garanties supplémentaires adaptées à l'âge et une gamme de fonctionnalités éducatives que l'on ne trouve pas dans la version standard de ChatGPT, qui visent à réduire leur exposition à des contenus plus préjudiciables.
« Les adolescents devraient pouvoir utiliser l'IA pour apprendre, créer et explorer », a déclaré OpenAI au moment de la publication. « Mais cet accès devrait s’accompagner de protections qui reflètent leur stade de développement, renforcent les relations dans le monde réel et soutiennent une utilisation saine au fil du temps. »
Malgré ses efforts pour satisfaire ceux qui s'inquiètent de la sécurité, OpenAI fait également l'objet de poursuites judiciaires au Canada, où elle est poursuivie en justice par la famille d'une jeune fille grièvement blessée lors d'une fusillade dans une école. Ils allèguent que ChatGPT était au courant de la présence du suspect dans les plans de cet incident, mais n'a pas alerté les autorités.
OpenAI fait également face à des critiques découlant de récents incidents de cybersécurité, notamment le récent piratage de la plateforme d'hébergement de modèles d'IA Hugging Face. En juillet, la société a révélé que deux de ses modèles étaient en cours d'évaluation dans un bac à sable de test interne lorsqu'ils ont réussi à violer cet environnement et à pirater la base de données de Hugging Face, bien qu'ils n'aient pas été invités à le faire. À l'époque, OpenAI testait les capacités de piratage des modèles dans un bac à sable isolé avec un accès réseau limité, et leurs protections normales avaient été désactivées, a indiqué la société.
Cet incident a suscité une vague d’inquiétudes quant aux risques potentiels pour la sécurité des modèles frontaliers avancés et à la question de savoir si les entreprises ont même la capacité de les garder sous contrôle.
Pusateri a également tenté de répondre à certaines de ces préoccupations dans sa déclaration, affirmant que la société envisage de continuer à partager des informations sur les mesures qu'elle a prises en réponse à ces problèmes de « désalignement ». « Nous avons renforcé les mesures de protection dans nos systèmes de recherche, poursuivi un examen plus large de l'activité des modèles, fourni des notifications aux organisations concernées et publié nos résultats », a-t-il ajouté.
