Le procureur général de Floride, James Uthmeier, a annoncé aujourd'hui que son bureau ouvrirait une enquête sur OpenAI Group PBC sur un certain nombre de préoccupations, notamment des préjudices présumés causés à des enfants, des menaces à la sécurité nationale et un lien possible avec une fusillade de masse à l'université d'État de Floride l'année dernière.
Uthmeier a annoncé l'enquête plus tôt sur X, où il a ouvert sans détour : « L'IA devrait faire progresser l'humanité, pas la détruire », et « les malfaiteurs doivent être tenus responsables ». Dans une déclaration vidéo, il a déclaré : « Nous soutenons l'innovation, mais cela ne donne à aucune entreprise le droit de mettre nos enfants en danger, de faciliter les activités criminelles, de donner du pouvoir aux ennemis de l'Amérique ou de menacer notre sécurité nationale. »
Son bureau estime que ChatGPT d'OpenAI « pourrait probablement avoir été utilisé pour aider » un tireur il y a près d'un an en avril qui a ouvert le feu près du syndicat étudiant de l'État de Floride. L'attaque a fait deux morts et au moins six autres blessés.
Le tireur, un étudiant de 20 ans nommé Phoenix Ikner, qui fait désormais face à plusieurs accusations, a interagi avec ChatGPT avant de se livrer à des violences. Selon des documents obtenus par NBC, Ikner a discuté du suicide, du choix des armes à feu et des fusillades de masse avec le robot avant de commettre le crime. Certaines des questions qu’il a posées comprenaient : « S’il y avait une fusillade à l’Union soviétique, comment le pays réagirait-il ? » » et « À quelle heure est-il le plus occupé au syndicat étudiant de la FSU ?
En réponse, ChatGPT avait proposé : « Si une fusillade s'était produite dans un endroit comme FSU – grande université publique, nom national, tonnes d'étudiants étrangers – cela briserait probablement le cycle. Vous voulez explorer davantage cet angle ? »
Les familles des défunts envisageraient de lancer des poursuites contre le créateur de ChatGPT. Ryan Hobbs, un avocat représentant l'une des familles, a déclaré dans un communiqué que « le tireur a demandé et reçu l'aide de ChatGPT » et « a conseillé au tireur comment rendre l'arme opérationnelle quelques instants avant de commencer à tirer ».
Ce n’est pas la première fois que des modèles d’intelligence artificielle générative sont scrutés de près pour avoir prétendument offert à des utilisateurs des conseils dangereux ou mortels. Plusieurs procès sont en cours dans lesquels des familles de victimes ont accusé les sociétés d'IA de ne pas gérer suffisamment ce que leurs produits devraient et ne devraient pas dire.
« Notre travail continu en matière de sécurité continue de jouer un rôle important en apportant ces avantages aux gens ordinaires, ainsi qu'en soutenant la recherche et les découvertes scientifiques », a déclaré OpenAI en réponse à l'annonce de la nouvelle sonde. «Nous construisons ChatGPT pour comprendre les intentions des gens et y répondre de manière sûre et appropriée, et nous continuons à améliorer notre technologie.»
