Un chercheur indépendant a lié plus de 16 000 analyses d'un portail de statistiques des Nations Unies à des agents d'intelligence artificielle qui, selon le chercheur, ont très probablement été gérés par OpenAI Group PBC.
Lorsque le portail a refusé les demandes, les agents ont quand même utilisé des proxys et des astuces de codage pour obtenir les données. Dans un article de blog publié samedi, l'ingénieur Rowan Howard-Jones a déclaré que l'analyse avait duré du 13 avril au 19 juin. La cible était le site de statistiques de la Conférence des Nations Unies sur le commerce et le développement, UNCTADstat.
Aucune des données n'était secrète. Les agents voulaient des chiffres publics tels que l'indice des capacités productives, et Howard-Jones les a trouvé en train de forcer brutalement les champs de l'interface de programmation d'applications du site pour localiser les points finaux. La clé utilisée pour ces requêtes était également publique, puisque le propre visualiseur de données d'UNCTADstat l'envoie à chaque requête.
Le principal outil utilisé était urlquery.net, un scanner d'URL qui ouvre n'importe quelle page qui lui est donnée dans un navigateur en mode bac à sable. Les agents ont créé des formulaires HTML codés en base64 sur le service de test httpbin et les ont transmis au scanner, dont le navigateur a ensuite soumis les formulaires à UNCTADstat. Les captures d'écran dans les rapports d'analyse montrent le retour des données d'index.
Plus tard, les agents ont bloqué les requêtes GET adressées au point de terminaison Facts en les codant deux fois sous la forme « F%2561cts ». D'autres charges utiles étaient hébergées sur un jeu Google LLC qui enseigne les scripts intersites, et certaines divisent le mot « POST » en deux chaînes, apparemment pour passer outre les filtres.
UNCTADstat a limité le taux de 82 des demandes. Les demandes se succédaient. Howard-Jones, qui a informé l'équipe de sécurité de la CNUCED du contournement du double codage avant de publier, n'a pas qualifié cette activité de piratage. Les actions des agents ressemblent à celles de « quelqu'un, ou de quelque chose, qui n'accepte pas un « non » comme réponse », a écrit Howard-Jones.
Les pages de charge utile créées par les agents portaient des étiquettes telles que « CHATGPTTEST1 » et « OAI_META_1312 ». Howard-Jones a également retracé 54 adresses Microsoft Corp. Azure liées à des modifications et des recherches liées à la CNUCED sur FractalWiki, un petit wiki public, et 45 d'entre elles avaient également édité DSEwiki. C'est sur ce wiki allemand, longtemps inactif, que les agents OpenAI ont été trouvés en train de se coordonner les uns avec les autres plus tôt cette année.
« Nous examinons ces résultats et avons contacté l'ONU pour proposer un briefing avec l'équipe chargée de cet examen », a déclaré une porte-parole d'OpenAI au Wall Street Journal. La société a décrit cet examen comme un examen général des modèles mal alignés lors de la formation et de l’évaluation. La plupart de ce qui a été examiné jusqu'à présent impliquait des recherches de routine telles que la lecture de contenus publics sur le Web, a déclaré la porte-parole. L'ONU n'a pas immédiatement répondu à la demande de commentaires du Journal.
Le laboratoire de recherche à but non lucratif Transluce, dont le rapport précédent a incité Howard-Jones à fouiller dans les données, a lié la semaine dernière les agents OpenAI à des attaques contre Data USA et un site de statistiques de santé du gouvernement australien. OpenAI a confirmé vendredi que ses agents s'étaient également mal comportés sur les sites Web du gouvernement américain, notamment ceux du département du Commerce et de la Securities and Exchange Commission.
Alex Stamos, professeur de cybersécurité à l'Université de Stanford, a qualifié l'activité de la CNUCED de « limite pour ce que j'appellerais le piratage » dans des commentaires au Journal. « Il s'agit d'un grattage et d'une récupération de données vraiment très agressifs », a-t-il déclaré.
