La société de solutions de renseignement et de gestion de sécurité Exabeam Inc. a annoncé aujourd'hui une extension de sa plateforme d'analyse du comportement des agents qui ajoute la détection et la surveillance de l'activité des agents d'intelligence artificielle à travers des outils tels que ChatGPT d'OpenAI Group PBC, Copilot de Microsoft Corp. et Gemini de Google LLC.
Cette extension vise à résoudre le problème selon lequel, sans visibilité directe sur la manière dont les employés utilisent les assistants IA, les organisations ne peuvent pas définir le comportement normal de l'IA, enquêter sur d'éventuels abus ou détecter les menaces internes agentiques émergentes.
La nouvelle prise en charge de la détection du comportement des agents est conçue pour transformer les services d'agent en de riches sources de télémétrie comportementale qui alimentent directement les workflows de détection, d'investigation et de réponse aux menaces d'Exabeam.
« Les agents IA évoluent de simples chatbots vers des travailleurs numériques autonomes », a déclaré Steve Wilson, directeur de l'IA et des produits chez Exabeam. « Ils s'authentifient, accèdent aux systèmes et exécutent de véritables processus commerciaux. Lorsqu'elles sont compromises, leur activité semble souvent légitime. »
Mais, a-t-il ajouté, « les garde-fous conçus pour détecter les injections rapides ou les hallucinations ne permettent pas de répondre à ce risque. La sécurisation des travailleurs du numérique nécessite une visibilité approfondie sur le comportement de base et la capacité de détecter des écarts subtils avant qu'ils ne se transforment en incidents importants ».
Pour faire face aux menaces agentiques en évolution rapide, Exabeam a lancé aujourd'hui cinq nouvelles fonctionnalités qui, selon elle, fonctionnent ensemble pour fournir une couverture complète de la surface d'attaque agentique.
La référence du comportement de l'IA crée des profils de comportement dynamiques pour les utilisateurs et leurs agents d'IA et suit les modèles à travers les volumes de requêtes, l'utilisation des jetons, les appels d'outils, les sessions Web et l'activité sortante. Lorsque le comportement s'écarte des normes établies, Exabeam signale l'anomalie pour aider les équipes de sécurité à détecter les abus avant qu'ils ne s'aggravent.
La détection des abus d'invites et de modèles, comme son nom l'indique, détecte l'injection rapide, la manipulation de modèles et l'exploitation d'outils avant que les attaques ne s'intensifient. La capacité de détection est complétée par une nouvelle bibliothèque de détection, cinq fois plus grande que la version précédente pour couvrir l'ensemble du spectre des menaces, y compris la manipulation rapide et l'activité de l'IA fantôme.
La surveillance des identités et des privilèges régit ce que les agents sont autorisés à faire, et la surveillance du cycle de vie des agents offre une visibilité complète sur la création, la modification et l'utilisation des agents IA et de leur couverture.
La dernière fonctionnalité, la couverture du Top 10 OWASP pour l'IA agentique, permet de surveiller le comportement des agents par rapport au cadre d'IA agentique de l'Open Worldwide Application Security Project afin d'apporter une couverture mesurable à une catégorie de menaces qui manquait auparavant de cadre défini.
Les nouvelles fonctionnalités sont également accompagnées d'un ensemble d'améliorations sur les plateformes Exabeam New-Scale et LogRhythm. Les améliorations visent à améliorer l'expérience quotidienne des administrateurs et des analystes de sécurité tout en continuant à offrir une visibilité et une réponse automatisée pour aider les équipes à rationaliser les flux de travail, à réduire la fatigue liée aux alertes et à accélérer la détection des menaces.
