Un agent IA n’a pas besoin d’être malveillant pour causer des dégâts. Il lui suffit de se frayer un chemin vers le mauvais système, de la même manière qu'un agent bien intentionné gérant un rapport financier pourrait décider qu'il a besoin d'un référentiel de code auquel il n'a jamais été censé toucher. Limiter ce que cet agent peut atteindre en cas de problème, connu dans l'industrie sous le nom de rayon d'explosion, devient l'un des problèmes les plus difficiles en matière de sécurité d'entreprise.
AJ Shipley (photo), directeur des produits chez CrowdStrike Holdings Inc., a rejoint la couverture Fal.Con de theCUBE pour la première fois cette année. Shipley a dirigé la conférence de presse derrière plusieurs annonces visant à résoudre ce problème, notamment Falcon Guardian, le produit de sécurité IA né de l'acquisition de Pangea par CrowdStrike.
« La principale surface d'attaque était un humain assis devant un clavier, inscrivant dans un navigateur une invite pour accéder à un agent de chat et obtenir une réponse », a déclaré Shipley. « Avant tout, nous devions obtenir cette visibilité sur tous les agents qui opéraient dans un environnement. »
Shipley s'est entretenu avec Rebecca Knight et Dave Vellante de theCUBE à Fal.Con, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont expliqué comment Falcon Guardian et Agentic IdP de CrowdStrike travaillent ensemble pour contenir le rayon d'explosion d'un agent IA. (* Divulgation ci-dessous.)
Comment les privilèges zéro réduisent le rayon d'explosion d'un agent
Shipley a parcouru une hypothèse dans laquelle un employé de la finance demande un rapport à un assistant IA, et l'agent se fraye un chemin pour demander l'accès au référentiel de code d'un développeur, un système auquel l'employée elle-même ne devrait jamais toucher. Étant donné qu'Agentic IdP attribue à chaque agent une identité unique et n'accorde l'accès que pour la durée d'une tâche, cet agent ne peut jamais détenir plus de privilèges que la personne qui l'a lancé. Falcon Guardian, le produit que Shipley attribue à l'acquisition de Pangea par CrowdStrike, fournit la couche de visibilité qui alimente Agentic IdP.
« Si vous prenez Hugging Face et les 1 000, 1 200 ou 1 400 agents qui se sont précipités pour résoudre le problème, Guardian nous donne cette visibilité en temps réel », a déclaré Shipley. « Grâce à notre Agentic IdP, nous pouvons attribuer un identifiant unique à chacun, afin qu'ils ne puissent pas collaborer et accéder aux systèmes ensemble s'ils ne devraient pas avoir ces privilèges au départ. »
Shipley a déclaré que le système n'était pas infaillible. Lorsqu'on lui a demandé s'il existait un kill switch pour un agent malveillant, il a répondu que CrowdStrike n'en avait pas aujourd'hui, du moins pas sous la forme à laquelle les clients pourraient s'attendre, même si cela vaut la peine d'être exploré. En attendant, la responsabilité, a-t-il dit, incombe au client.
« C'est une responsabilité partagée », a déclaré Shipley. « Nous avons une responsabilité en tant que fournisseur, mais le client a également la responsabilité de fournir un contexte que nous pouvons utiliser pour prendre de meilleures décisions. Seul un client saurait quelle est la criticité d'un actif dans son environnement. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE de l'événement Fal.Con :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Fal.Con. Ni CrowdStrike, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
