Google affirme qu'un cadre d'IA a transformé les correctifs de sécurité en exploits sans aucun humain au courant

Un nouveau rapport publié aujourd'hui par le Google Threat Intelligence Group de Google LLC révèle que pour la première fois, des attaquants ont utilisé un cadre d'intelligence artificielle fonctionnant sans intervention humaine pour transformer les correctifs de sécurité en exploits.

Appelé exploit_agent, le framework est apparu sur un serveur intermédiaire exposé, où il a été connecté à plusieurs grands modèles de langage frontaliers et hébergés localement. Son travail, selon GTIG, consiste à comparer en permanence le code des applications Web populaires avant et après chaque annonce de correctif. Une fois qu’une faille probable est identifiée, l’exploit qu’elle rédige est exécuté automatiquement.

Les données extraites des victimes se trouvaient sur le même serveur, aux côtés de scripts permettant de forcer brutalement, d'installer des webshells et même de supprimer les webshells laissés par des attaquants rivaux. La télémétrie des victimes suggère que l'opérateur était plus intéressé par les sites Web français liés aux médias, au divertissement et à l'éducation. Écrit en russe, un commentaire dans le fichier de configuration du framework indique à celui qui l'a configuré de saisir les clés « ici même, pas dans le chat ».

Dans l'édition précédente du tracker trimestriel il y a deux mois, GTIG a déclaré qu'il n'avait pas observé de pipelines d'attaque entièrement autonomes déployés contre des cibles dans la nature. Cela a changé au cours du dernier trimestre, selon le nouveau rapport intitulé « L’activité des menaces agents franchit un seuil significatif ». Étant donné que le matériel source d'une faille corrigée est limité, GTIG pense que les attaquants pourraient trouver plus efficace de pointer les LLM vers des vulnérabilités de n jours plutôt que de rechercher des vulnérabilités de type zéro jour.

La rapidité avec laquelle l'écart entre la divulgation et un exploit fonctionnel peut être comblé le montre dans le cas de deux failles dans les serveurs de gestion d'impression de PaperCut Software Pty Ltd., enchaînées et exploitées comme des failles zéro jour fin août. Les chercheurs en sécurité et Huntress Labs Inc. ont utilisé de grands modèles de langage pour générer des exploits fonctionnels dans la journée suivant leur divulgation.

On pense qu'une campagne suivie par GreyNoise Intelligence Inc. quatre jours après sa divulgation s'est appuyée sur les LLM pour développer ses exploits avant de toucher des centaines d'organisations. Un point d'ancrage dans cette campagne a atteint l'administrateur du domaine en quelques minutes, a découvert GreyNoise.

Ailleurs, des cadres de tests d'intrusion agents open source sont utilisés pour automatiser les étapes discrètes des intrusions réelles. Lors d’une intrusion contre le secteur aérospatial américain, un acteur menaçant a été observé utilisant le cadre multi-agents CAIRN.

Un autre acteur a exploité une plate-forme personnalisée construite sur PentAGI entre fin août et début octobre pour analyser les vulnérabilités d'un large éventail d'organisations en Asie. Pour l’instant, la trace médico-légale bruyante laissée par l’exécution autonome sans restriction faciliterait la détection des frameworks.

Selon GTIG, les opérations d’influence utilisent désormais des modèles pour bien plus que la rédaction de messages. À l'aide de fermes de téléphonie cloud, une plate-forme clé en main qu'un entrepreneur commercial était en train de créer avec l'aide de l'API Gemini est conçue pour gérer plus de 100 000 comptes de réseaux sociaux. Pour que les photos générées passent pour des prises de vue sur smartphone, les invites derrière une plate-forme distincte, ciblant les sentiments politiques à travers l'Europe et le Moyen-Orient, auraient appelé à des défauts délibérés de l'appareil photo.

Parmi les acteurs soutenus par le gouvernement, les photos des faux profils de recruteurs qu'un groupe nord-coréen soupçonné d'avoir suivi sous le nom de UNC6836 ont utilisé pour approcher des organisations de crypto-monnaie en Amérique du Nord et en Europe portaient les filigranes SynthID de Google. Grâce à des fichiers .claude/settings.json modifiés dans des référentiels de code internes, le groupe a ensuite truqué chaque lancement de Claude Code d'Anthropic PBC pour télécharger sa porte dérobée SOMBERMEME.

Google a déclaré avoir désactivé les comptes et les actifs liés à l'utilisation abusive de Gemini constatée. Google DeepMind a également utilisé ces résultats pour renforcer ses classificateurs.

Newsletter

Rejoignez notre newsletter pour des astuces chaque semaine