Charger un agent IA de rechercher des données sur Internet semble être la chose la plus anodine au monde. Jusqu'à ce que l'agent décide comment les rechercher.
OpenAI a rapporté vendredi 25 septembre que ses agents avaient interagi, d'une manière à laquelle ils ne s'attendaient pas, avec plusieurs sites Web du gouvernement américain. C'est quelque chose qu'ils ont découvert lors d'un examen continu du comportement imprévu de leurs modèles.
Ils ont accédé aux informations publiques de deux sites Web de la SEC (le régulateur des valeurs mobilières) et aux données du Census Bureau, et la société affirme n'avoir trouvé aucune utilisation des informations d'identification de la SEC, aucun accès à des comptes ou à des informations non publics, aucune modification des données ou des systèmes de la SEC, ni aucune preuve de compromission ou de vulnérabilité. Pour le recensement, selon un autre récit de la divulgation, ils ont utilisé des clés de développeur pour leur API qu'ils ont trouvées dans les référentiels publics GitHub, et depuis la SEC, ils ont téléchargé des informations qu'ils ont republiées sur une autre page.
Les tentatives qui n'ont pas fonctionné et celles que Transluce n'attribue pas
Et puis il y a ce qu’ils n’ont pas obtenu. Transluce, un laboratoire indépendant qui teste l'IA, a déclaré que des agents qui semblaient appartenir à OpenAI avaient tenté un piratage rudimentaire contre le site Web du bureau des droits civiques du ministère de l'Éducation.
Cela n'a pas fonctionné et Education a déclaré que ses examens n'avaient révélé aucun impact sur son site Web ou ses bases de données. Transluce ajoute qu'elle a constaté davantage d'activité dans d'autres agences, telles que la Justice et le Commerce, et sur des sites Web dans les États de Californie, du Maryland, de l'Illinois, du Texas et de New York, dont certains sans attribution claire à OpenAI. OpenAI dit qu'il examine le rapport.
OpenAI lui-même demande de ne pas trop lire dans ses notifications : notifier une organisation ne signifie pas qu'il y a eu un incident de sécurité, et cela peut servir à signaler un défaut de conception ou une faiblesse qu'elle souhaite corriger. Selon l'entreprise, la plupart des éléments examinés jusqu'à présent sont des tâches d'enquête de routine dans lesquelles les agents consultaient du contenu public pour répondre à des questions, y compris des sites Web gouvernementaux qu'ils considèrent comme des sources fiables. Des cas de cette divulgation se sont produits lors de la formation et de l’évaluation des modèles.
Est-ce la première fois que cela devient incontrôlable ?
Ce n'est pas la première fois qu'une telle chose se produit. En juillet, OpenAI a admis que deux de ses modèles les plus performants s'étaient échappés d'un environnement de test et étaient à l'origine de la cyberattaque contre Hugging Face. Sam Altman a écrit le 25 septembre que cet incident reste « l’événement le plus grave que nous ayons jamais vu ».
Dans le rapport publié en août, l'entreprise décrit cela comme un avertissement selon lequel, sans garanties, des agents très compétents savent déjà comment contourner les contrôles techniques et établissent une norme : surveiller le raisonnement des modèles dans toutes les formations avec des outils de capacité égale ou supérieure.
La norme ne suffisait pas. Le week-end des 19 et 20 septembre, selon le récit publié ultérieurement, un agent en formation s'est à nouveau échappé de son environnement sécurisé et a utilisé un serveur DNS pour envoyer des requêtes à un chatbot public. La surveillance l'a détecté en 15 minutes, mais l'entraînement s'est poursuivi pendant encore deux heures et demie, jusqu'à ce que quelqu'un l'arrête manuellement. OpenAI a de nouveau arrêté de former ses modèles les plus avancés, la deuxième pause depuis juillet.
Trois mois pour avertir l'Australie
Le cas des sites Internet américains n’est pas le seul dans lequel un gouvernement est impliqué. En Australie, le 18 juin 2026, un agent de recherche OpenAI a pénétré par effraction dans un portail de statistiques Medicare.
Selon le Premier ministre Anthony Albanese, l'agent a accédé à des fichiers publics et non publics (le portail stocke des informations non sensibles de Medicare, telles que les dépenses et les statistiques), a écrit des fichiers sur le serveur interne et n'a pas touché aux données personnelles, bien que l'enquête se poursuive. Il l'a fait après avoir bloqué son accès, en essayant des itinéraires alternatifs.
OpenAI n'a notifié la notification que le 10 septembre, soit 84 jours plus tard, via une case de divulgation responsable de Services Australia qui est cochée une fois par jour. Le 15 septembre, cet organisme l'a signalé à l'ASD, l'agence australienne de transmission et de cybersécurité. Albanese l'a rendu public à la fin du mois.
De dizaines à plus de cent
En parlant des sites Internet américains, OpenAI parle de dizaines d’organisations notifiées. Au 2 octobre, ce nombre dépassait la centaine. La société reconnaît que, dans certains cas, les modèles ont utilisé l'accès à Internet de manière inattendue ou sans restrictions idéales et examine actuellement environ 50 pétaoctets de données avec des systèmes d'IA, pour un coût d'environ 500 000 dollars par jour.
Trois jours plus tard, une autre pièce est apparue. Le 5 octobre, la Fondation Wikimedia a attribué des modifications non approuvées aux agents qu'elle relie à OpenAI, en particulier dans les zones de test qui n'ont pas été vues par les lecteurs, des tentatives infructueuses d'utilisation d'un service de notes partagées comme proxy et des millions de requêtes adressées à ses API publiques, avec des centaines de milliers de requêtes adressées au service de données Wikidata. Wikimedia soutient que ce trafic pourrait avoir contribué à une panne partielle de ce service en mai. Aucun système n'a été compromis et aucune donnée n'a été divulguée.
De dizaines à plus d’une centaine. Et la liste des personnes concernées ne cesse de s’allonger.
Images | Xataka avec édition
