À mesure que les agents IA accèdent aux systèmes de l’entreprise et aux données sensibles, les équipes de sécurité ont besoin d’une plus grande visibilité sur leurs actions. La surveillance en temps réel et l’application des politiques deviennent essentielles dans le cadre de la technologie d’injection rapide.
C'est en gardant ces défis à l'esprit que Menlo Security Inc. a cherché à répondre avec Menlo Agent Runtime Security (MARS). Dans ce nouvel environnement, nombreux sont ceux qui s'inquiètent des risques associés aux agents d'IA, selon Ramin Farassat (photo), directeur produit de Menlo Security.
« Les agents ont accès à vos données. Ces données peuvent être exfiltrées, et les agents peuvent également être assez crédules », a déclaré Farassat. « Un agent pourrait être trompé par des commandes et des invites, via un empoisonnement rapide, pour effectuer des tâches pour lesquelles il n'est pas conçu. »
Farassat s'est entretenu avec Krista Case à Black Hat USA, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté des contrôles de sécurité en temps réel pour les agents IA et de la protection des données d'entreprise contre les attaques par injection rapide. (* Divulgation ci-dessous.)
Sur la technologie d’injection rapide
Les agents d’IA sont vulnérables aux injections rapides car ils ne parviennent souvent pas à faire la distinction entre les données légitimes et les commandes malveillantes qui y sont cachées. Contrairement aux humains qui remettraient en question de telles anomalies, ces agents traitent aveuglément les données empoisonnées comme des instructions valides, selon Farassat.
« Je ne crois pas qu'il existera une technologie d'injection rapide qui sera 100% sûre et complète, qui stoppera toutes les menaces possibles qui pourraient exister », a déclaré Farassat. « Ce que vous devez faire, c'est l'utiliser comme l'un des outils dont vous disposez dans votre trousse à outils pour faire face à différents types de menaces. »
Menlo Security définit des politiques et contrôle les actions que les agents peuvent entreprendre malgré ce que d'autres commandes leur demanderaient de faire, a noté Farassat.
« Nous veillons également à prendre les informations, les données que l'agent consomme, et à en supprimer les informations sensibles », a déclaré Farassat. « Nous recherchons des informations sensibles en temps réel et pouvons également masquer ces données. »
Voici l'interview vidéo complète, faisant partie de la couverture de Black Hat USA par SiliconANGLE et theCUBE :
(* Divulgation : Menlo Security Inc. a sponsorisé ce segment de theCUBE. Ni Menlo ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
