Des agents d'intelligence artificielle liés à OpenAI Group PBC auraient piraté un service d'hébergement de code populaire plus tôt cette année.
Le Wall Street Journal détaillé la brèche aujourd'hui. L’activité malveillante a été découverte par un groupe de recherche comprenant Nightingale, une organisation à but non lucratif spécialisée dans la sécurité de l’IA. La semaine dernière, Rossignol découvert une autre cyberattaque qui semble avoir été menée par des agents OpenAI.
Le service ciblé par la campagne de piratage récemment révélée s’appelle RubyGems. Il héberge des bibliothèques open source écrites en Ruby, un langage de programmation populaire.
OpenAI a déclaré au Journal que des agents d'IA malveillants avaient transformé RubyGems en un navigateur de fortune. Ils l’ont ensuite utilisé pour supprimer les données accessibles au public sur le Web. Selon le fournisseur d'IA, la raison pour laquelle les agents n'ont pas simplement téléchargé les données directement est qu'ils n'étaient pas censés avoir accès au Web.
RubyGems demande aux nouveaux utilisateurs de vérifier leur adresse e-mail avant de télécharger des bibliothèques open source. Le 11 mai, les agents d'OpenAI ont contourné le système de vérification des e-mails de la plateforme et ouvert de nombreux comptes malveillants. Ils ont également créé un deuxième ensemble de comptes utilisant des adresses e-mail jetables.
La deuxième phase de la campagne de piratage visait un composant de RubyGems appelé RubyDoc.info. Il génère automatiquement de la documentation pour les bibliothèques de codes fournies par les utilisateurs. Selon les chercheurs, les agents d'OpenAI ont téléchargé plus de 100 fichiers malveillants qui ont transformé RubyDoc.info en un grattoir Web. Les agents ont téléchargé les données récupérées en téléchargeant un autre fichier malveillant.
Les chercheurs pensent que la campagne pourrait également s’être étendue davantage. À un moment donné, les agents d'OpenAI ont découvert une vulnérabilité zero-day dans RubyGems qui permettait de voler les informations d'identification des comptes d'autres utilisateurs. Les agents ont tenté d'exploiter la faille au moins six fois, mais on ne sait pas s'ils ont réussi.
Les développeurs accèdent à RubyGems via un outil de ligne de commande. Ils se connectent en saisissant une clé d'interface de programmation d'application, un identifiant qui joue un rôle similaire à celui d'un mot de passe. L'exploit découvert par les agents a amené RubyGems à mettre en cache les clés API des utilisateurs dans son réseau de diffusion de contenu pendant une heure. Il était théoriquement possible de voler les données pendant cette période.
« L'équipe RubyGems a déclaré avoir mené des examens approfondis et n'avoir trouvé aucune preuve que cette voie avait été exploitée dans le passé », ont écrit les chercheurs qui ont découvert la campagne de piratage dans un rapport. « Cependant, nous ne pouvons pas l'exclure complètement. »
L'incident est particulièrement remarquable car il s'est produit deux mois avant un autre groupe d'agents OpenAI. violé Visage câlin. Ces agents sont sortis d'un bac à sable qui les isolait du Web en comprenant l'un des outils de développement internes du développeur ChatGPT. Selon OpenAI, ils ont utilisé les bibliothèques Ruby pour pirater l'outil.
