La société de résilience des données Rubrik Inc. a déclaré aujourd'hui qu'un mois d'analyse de son propre code avec le modèle Mythos Preview d'Anthropic PBC a fait apparaître tellement de problèmes de sécurité potentiels qu'elle a reconstruit son pipeline de révision plutôt que d'embaucher des réviseurs.
Les détails sont venus dans un article de blog du co-fondateur et directeur de la technologie de Rubrik, Arvind Nithrakashyap. Rubrik a eu accès en juin au Projet Glasswing, le programme limité d'Anthropic qui permet aux défenseurs d'utiliser rapidement Mythos Preview, après que la société l'ait ouvert à 150 autres organisations. Anthropic a gardé ce modèle hors de la diffusion générale. Mythos trouve des failles logicielles et les intègre dans des chaînes d'attaque qui fonctionnent trop bien pour être distribuées librement.
Rubrik a recruté des ingénieurs et du personnel de sécurité informatique dans une équipe de tigres. La majeure partie de leur travail a été consacrée au harnais, qui est la couche logicielle qui enveloppe le modèle et gère ses appels d'outils et ses points de contrôle. La version de Rubrik s'alimente également dans un contexte métier et de sécurité. Il code où se situent les limites de confiance pour un fournisseur dont les clients le traitent comme une dernière ligne de récupération.
Nithrakashyap a écrit que rien de tout cela n'appartient à une invite : « Les invites dérivent. L'architecture du harnais ne le fait pas. »
La numérisation a commencé en grand. Des référentiels entiers, chaque fichier, aucune hypothèse sur l'origine probable des problèmes. Les cols ultérieurs se rétrécissent, semés par les motifs exposés par les premiers tours. Rubrik rapporte une réduction significative des résultats bruts aux problèmes prioritaires validés, bien que le message ne donne aucun chiffre sur aucun de ces éléments.
Ce qui a le plus surpris l'équipe, selon Nithrakashyap, c'est le temps d'ingénierie consacré à la décision de ne pas automatiser. La remédiation automatique couvre un sous-ensemble délibéré de classes de vulnérabilité, celles que Rubrik juge fiables et bien ciblées. Tout ce qui se trouve en dehors de cet ensemble bénéficie d'un plan structuré et d'un contexte plus riche, et un ingénieur est propriétaire du correctif.
« En matière de sécurité, une automatisation fiable et une automatisation maximale tirent dans des directions différentes », a écrit Nithrakashyap. « Nous avons choisi le premier. »
Anthropic est parvenu à peu près à la même conclusion dans l’ensemble du programme. Sa mise à jour du 22 mai a recensé plus de 10 000 vulnérabilités de gravité élevée ou critique découvertes par les partenaires, avec un taux de vrais positifs de 90,6 % sur 1 752 failles envoyées pour évaluation externe. Les correctifs ont pris du retard. Sur 530 vulnérabilités signalées dans des projets open source, 75 avaient été corrigées au moment de l'exécution de la mise à jour, et les bogues importants et critiques prenaient environ deux semaines chacun.
Anthropic a lancé Glasswing le 7 avril et a investi 100 millions de dollars en crédits d'interface de programmation d'applications. Environ 50 partenaires se sont présentés en premier, parmi lesquels Microsoft Corp. et Apple Inc.
L'expansion de juin s'est étendue bien au-delà du secteur technologique. Les opérateurs d’électricité, d’eau et de soins de santé y ont eu accès. Il en a été de même pour l’Organisation du Traité de l’Atlantique Nord et l’Agence de cybersécurité de l’Union européenne.
Aucun décompte de vulnérabilités ni aucun taux de correction n'ont encore été publiés par Rubrik. Le message ne fixe aucun calendrier pour en publier. Nithrakashyap l'a terminé en invitant d'autres équipes menant un travail similaire à comparer leurs notes.
