Les chercheurs en sécurité ont passé l’année dernière à observer l’IA accélérer les attaques déjà existantes. Une question plus difficile est de savoir si l’IA peut créer des techniques d’attaque qui n’existaient pas auparavant. Une évasion d’un bac à sable IA – où un attaquant s’échappe de l’environnement isolé censé contenir un assistant IA – est l’un des signes les plus clairs à ce jour qu’il est possible.
Joe Hladik (photo), responsable de Zero Labs, la branche de recherche sur les menaces de Rubrik Inc., la société de sécurité des données, a construit la pratique de recherche de son équipe autour des données de sauvegarde – une source que peu d'autres étudient. Cette année, l'accent a été mis sur la manière dont les employés utilisent l'IA au quotidien, à commencer par l'assistant Copilot utilisé par environ 20 millions de personnes et environ 90 % des sociétés Fortune 500.
« Personne ne regarde les données de sauvegarde », a déclaré Hladik. « Nous avons trouvé que c'était un endroit viable pour trouver de véritables renseignements sur lesquels agir. »
Hladik s'est entretenu avec Krista Case à Black Hat USA, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de l'évasion du bac à sable IA que Rubrik Zero Labs a trouvée dans Microsoft Copilot et de ce que cela signifie pour la défense des agents IA. (* Divulgation ci-dessous.)
À l’intérieur de l’évasion du bac à sable IA qui a frappé Microsoft Copilot
La découverte a eu lieu en février, a déclaré Hladik, et Rubrik Zero Labs a suivi une divulgation responsable, engageant Microsoft avant de la rendre publique ; Microsoft a corrigé la faille à la mi-mars. La vulnérabilité spécifique est corrigée, bien que la technique sous-jacente – sortir du bac à sable de Copilot pour atteindre le backend d'Azure – puisse s'appliquer à d'autres copilotes d'IA, a déclaré Hladik. Le chercheur Ori Lahav présente cette semaine les résultats complets à Black Hat.
« (Cela) vous permettrait d'obtenir le contrôle et le contrôle de centaines, de milliers ou bien plus, en fonction du volume de ce qui existe au sein de ce locataire de fichiers d'utilisateurs, de fichiers SharePoint, de OneDrive, etc. », a déclaré Hladik. « C'est une découverte majeure, majeure. »
Cet écart de visibilité s’étend au-delà de ce seul défaut. Les propres recherches de Rubrik Zero Labs ont révélé que seulement 23 % des responsables de la sécurité ont une visibilité complète sur les agents d'IA déjà exécutés dans leur environnement, une lacune que Rubrik s'efforce de combler avec de nouveaux outils de gouvernance d'agent d'IA dévoilés cette semaine.
« Les agents ne sont que des robots avec des modèles », a déclaré Hladik. « C'est un robot qui demande à un modèle, puis le modèle lui dit quoi faire, puis il agit. C'est nouveau, c'est cool, mais en même temps, j'ai déjà vu ça. »
Voici l'interview vidéo complète, faisant partie de la couverture de Black Hat USA par SiliconANGLE et theCUBE :
(* Divulgation : Rubrik a sponsorisé ce segment de theCUBE. Ni Rubrik ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
