Les pirates informatiques individuels mènent désormais des campagnes qui auraient nécessité de nombreux opérateurs qualifiés il y a un an, car l’intelligence artificielle a absorbé le travail qui distinguait autrefois les équipes soutenues par l’État.
C'est ce qu'affirme Anthropic PBC, développeur de modèles d'IA, qui a publié aujourd'hui son dernier rapport de renseignements sur les menaces, couvrant les abus de Claude perturbés entre décembre et août. Il accuse également sept laboratoires chinois d'IA d'avoir exploité illégalement les capacités de Claude.
Le rapport couvre sept domaines de danger, et les acteurs concernés comprennent des groupes soupçonnés d'être parrainés par l'État, des criminels motivés par l'argent et des vendeurs commerciaux de logiciels espions. Ils ont utilisé les modèles Claude Haiku, Sonnet et Opus. Un seul cas, une campagne de distillation, a touché les modèles de classe Fable ou Mythos de l'entreprise.
Aucune des intrusions ne reposait sur une technique nouvelle, selon le rapport. Les informations d'identification volées et les appareils de pointe non corrigés sont présents partout, et le gros travail de reconnaissance et de développement d'outils a été confié aux modèles d'IA fonctionnant en parallèle à la vitesse de la machine. Anthropic a déclaré que le résultat était « des violations terminées en deux à trois heures et des dizaines de victimes traitées en parallèle par des opérateurs individuels ». Le modèle opérationnel autonome qu’il a documenté pour la première fois lors d’une campagne présumée parrainée par l’État chinois en novembre dernier s’est depuis étendu à toutes les catégories d’acteurs sur lesquels il a enquêté.
Anthropic a déclaré que l'attribution d'un acteur, GTG-20006, est cohérente avec les informations publiques sur le groupe d'espionnage russe Midnight Blizzard. Le gouvernement ukrainien, le personnel militaire et diplomatique étaient ses cibles les plus fréquentes.
Les opérateurs ont exporté en masse les boîtes aux lettres d'au moins deux fabricants de composants de drones, volé un kit de développement logiciel exclusif pour un système de vision de drone et compromis les fournisseurs de Wi-Fi des clients des hôtels pour atteindre les voyageurs. Chaque fois que des produits de sécurité signalaient les implants du groupe, Claude était utilisé pour les modifier et les redéployer, une boucle qui, selon Anthropic, « a fait retomber le coût sur les défenseurs ».
Les affiliés du collectif d'extorsion ShinyHunters sont passés d'un simple jeton de développeur volé au contrôle administratif complet de l'environnement cloud d'une victime en environ trois heures au cours d'une seule compromission. Dans un autre cas, les agents IA ont effectué presque tout le travail de vidage de plus de 2 100 jeux de jetons Azure Active Directory provenant de plus de 40 locataires d'entreprise en 34 heures environ.
Un groupe de langue chinoise identifié comme GTG-10007, probablement basé à Changsha, a dirigé ce qu'Anthropic appelle des fonderies d'exploits automatisées contre environ 50 organisations. Deux des opérateurs ont été identifiés comme étant des étudiants de premier cycle. Le groupe a utilisé des « essaims d'agents » pour le travail de reconnaissance et de post-exploitation, et un flux de travail itératif sur les appareils réseau a produit « plus d'une douzaine de découvertes possibles du jour zéro » en un seul mois.
GTG-50020, un acteur russophone motivé par les finances, s'est tourné vers le secteur de l'IA après des intrusions antérieures contre les plateformes de réservation d'hôtels et de technologies financières. Ses opérateurs ont implanté des instructions malveillantes dans le bac à sable d'évaluation automatisé d'un fournisseur d'IA, qui a transmis les clés d'interface de programmation d'applications de production à plusieurs fournisseurs de modèles.
Une campagne de suivi a ciblé environ 30 entreprises d’IA en quatre jours environ. L'objectif déclaré était d'accéder à une version préliminaire du modèle Claude, et Anthropic a déclaré que toutes les tentatives avaient échoué et que ses propres systèmes n'avaient jamais été violés.
Concernant la distillation, Anthropic a déclaré que les opérateurs affiliés à Alibaba Group Holding Ltd. ont mené « la plus grande attaque de distillation que nous ayons jamais mesurée ». Il indique qu'une invite fixe a forcé Claude Opus 4.6 et 4.7 à écrire leur raisonnement en chaîne, et que les transcriptions ont été utilisées pour entraîner Qwen 3.5, 3.6 et 3.7. La campagne a culminé à près de 3 millions d'échanges par jour à partir de plus de 3 500 comptes frauduleux, dont plus de 151 millions recensés entre mai et juillet.
Moonshot AI et DeepSeek Ltd. sont accusés d'avoir discrètement transmis les demandes de leurs propres clients à Claude et de conserver les réponses pour la formation. En une période de 10 jours, Moonshot a relayé près de 300 000 demandes d'utilisateurs pensant parler à Kimi.
Des données sensibles les accompagnaient, notamment des images de centaines de caméras de surveillance à Chengdu téléchargées par un utilisateur Anthropic considéré comme probablement affilié à l'Armée populaire de libération de la Chine. Un relais DeepSeek a révélé en direct les informations d'identification d'une base de données du gouvernement russe liée au ministère de la Défense du pays.
Les quatre autres laboratoires nommés sont Xiaomi Corp., Zhipu, SenseTime Group Inc. et MiniMax. Anthropic a déclaré que MiniMax avait mis en place un service proxy via une société écran non divulguée qui vend l'accès uniquement aux modèles PBC d'Anthropic et d'OpenAI Group. Anthropic a accusé pour la première fois les laboratoires chinois de distillation en février.
Ailleurs dans le rapport se trouve Lakana 360, une plateforme de surveillance construite avec Claude pour le service de renseignement de l'État du Mali par ce qu'Anthropic pense être un seul consultant indépendant. Il surveille environ 25 millions de cartes SIM sur les trois opérateurs mobiles du pays et a été conçu pour contourner une exigence légale relative aux décisions de justice. Six projets de développement d’armes en Chine, en Russie et au Yémen ont également été perturbés, parmi lesquels un effort de développeurs indépendants basés en Russie pour construire un essaim de drones kamikaze autonomes.
Anthropic a déclaré avoir interdit les comptes impliqués et partagé des renseignements avec les autorités et les partenaires industriels, le cas échéant. Claude résume désormais son raisonnement interne avant de répondre, rendant les relevés de notes volés moins utiles pour la formation. Les comptes opérant dans des pays non pris en charge tels que la Chine, la Russie et l'Iran peuvent également devoir vérifier leur identité ou perdre l'accès.
