Anthropic PBC a lancé aujourd'hui un programme qui apporte ses modèles d'avant-garde et ses ingénieurs sur site aux entreprises de sécurité protégeant les réseaux électriques, les systèmes d'eau et autres infrastructures critiques.
OSS Scanner, lancé avec, propose aux projets open source des analyses périodiques gratuites des vulnérabilités à partir des modèles les plus puissants de l'entreprise. Les deux relèvent d’un nouvel effort qu’Anthropic appelle Anthropic Cyber Mission.
Le programme de défense des infrastructures critiques commence par les fournisseurs externes sur lesquels les opérateurs de toutes tailles s'appuient déjà pour obtenir des conseils sur les correctifs qu'il est possible d'appliquer en toute sécurité à un système en cours d'exécution. Onze de ces prestataires se sont inscrits en tant que partenaires fondateurs.
Accenture plc, Booz Allen Hamilton Inc., Deloitte & Touche LLP et PricewaterhouseCoopers LLP viennent du secteur du conseil, où ils gèrent des programmes de sécurité pour les opérateurs. Les fournisseurs de sécurité constituent le bloc le plus important, avec les spécialistes industriels Dragos Inc., Insane Cyber Inc. et Nozomi Networks Inc. rejoignant CrowdStrike Holdings Inc. et Palo Alto Networks Inc. Hitachi Ltd. et Rockwell Automation Inc. construisent et corrigent eux-mêmes le matériel.
Le programme vise la technologie opérationnelle dans les usines, les sous-stations et les systèmes d'approvisionnement en eau, où les équipements conçus pour fonctionner pendant des décennies ne peuvent souvent pas être mis hors ligne pour une mise à jour. Les défauts connus peuvent rester là pendant des années. Anthropic a déclaré que plusieurs partenaires utilisent déjà Claude pour corriger les vulnérabilités et aider leurs clients à faire de même. D’autres partenaires et secteurs devraient s’y joindre au cours des prochains mois.
Andrew Turner, président de la cybersécurité commerciale chez Booz Allen, a qualifié la technologie opérationnelle de « prochaine frontière pour les attaques autonomes basées sur l'IA » dans des commentaires publiés avec l'annonce. Ce qui compte maintenant, a-t-il déclaré, c'est le degré de contrôle que l'intelligence artificielle peut prendre sur un processus industriel et à quelle vitesse.
L'annonce omet les conditions commerciales. Axios a noté dans sa couverture qu'Anthropic n'a pas précisé si les partenaires bénéficient d'un accès gratuit au modèle ou qui couvre les coûts informatiques. Le même rapport s'interroge sur la manière dont les partenaires testeront et déploieront les correctifs sans perturber les opérations des services publics.
La moitié open source des nouvelles d'aujourd'hui est née d'un retard dans le propre travail de divulgation d'Anthropic. Sur les plus de 29 000 vulnérabilités potentielles que ses modèles ont découvertes dans des logiciels largement utilisés au cours des six derniers mois, le personnel en a examiné manuellement environ 6 000. Un nombre croissant de responsables qui ont reçu les premiers rapports ont demandé l'intégralité du lot non révisé, y compris les correctifs proposés, et près de 5 000 rapports de ce type ont été publiés jusqu'à présent.
OSS Scanner transforme cet arrangement en un service permanent pour d'autres projets éligibles. OSS-Fuzz de Google LLC, qui exécute des fuzzers sur du code open source, a inspiré la configuration.
Chaque rapport comprend un reproducteur autonome. Anton Arapov, premier testeur d'OpenSSL Corporation, a déclaré qu'un rapport contenant un véritable exploit était « essentiellement un travail fait pour un ingénieur ». Lorsque le modèle peut le gérer, un correctif candidat est fourni avec la rédaction, et une bissection de l'historique du code montre quand la faille a été introduite.
Les rapports du nouveau service sont envoyés directement aux responsables sans examen humain afin qu'ils arrivent plus rapidement. Certains contiendront ainsi des erreurs, comme une mauvaise évaluation de la gravité, a déclaré Anthropic.
Pour évaluer la fréquence à laquelle cela se produit, Anthropic a testé la précision du scanner avant de l'ouvrir à davantage de projets. Les testeurs d'intrusion experts qui examinent les divulgations coordonnées de l'entreprise ont vérifié 97 résultats critiques et de haute gravité d'une première version sur 48 projets et en ont autorisé 85 à être divulgués.
Sur les 12 autres, tous sauf un étaient de véritables bogues qui reproduisaient des problèmes connus ou d’autres résultats de l’analyse. Le développeur de bibliothèques de chiffrement embarquées, wolfSSL Inc., a déclaré que tous les 74 rapports reçus au cours des premiers essais, sauf deux, étaient valides et que cinq étaient devenus des CVE.
Les responsables principaux peuvent s'inscrire en soumettant une pull request à un référentiel Anthropic GitHub. L'éligibilité suit le test OSS-Fuzz d'« impact critique sur l'infrastructure et la sécurité des utilisateurs », avec des décisions prises au cas par cas. Les projets dépourvus du personnel nécessaire pour suivre les résultats bruts recevront toujours des rapports vérifiés par des humains via le processus de divulgation existant d'Anthropic.
Le Defender Advantage Fund créé par Anthropic en août finance la gratuité du scanner. La société a également investi de l'argent dans la Python Software Foundation et l'Apache Software Foundation, ainsi que dans Alpha-Omega et OpenSSF via la Linux Foundation.
Les deux lancements s’appuient sur les leçons du projet Glasswing. Ce programme a permis aux organisations sélectionnées d'accéder à Claude Mythos à partir d'avril jusqu'à ce qu'il soit intégré à un programme de cybervérification élargi plus tôt cette semaine. Trouver des vulnérabilités n'a jamais été aussi simple, selon Anthropic. Il reste difficile de les vérifier, de les hiérarchiser et de les corriger, et la société a déclaré que Glasswing n'avait pas encore suffisamment réduit les cyber-risques.
Anthropic s'attend à ce que l'IA favorise les défenseurs d'ici deux ans. Pour l’instant, le coût de l’exploitation d’une faille ne cesse de baisser, et la vérification et la réparation d’une faille restent un travail lent qui dépend des personnes. Avec une technologie opérationnelle, une solution devra peut-être attendre jusqu'à ce qu'elle puisse être appliquée en toute sécurité sur des machines en fonctionnement, et dans de rares cas, cela peut prendre des décennies.
