La start-up de sécurité Runtime Eve Security Inc. souhaite aider à arrêter les dangereux agents d'intelligence artificielle dans leur élan après avoir levé aujourd'hui 4,5 millions de dollars de financement.
Eve Security a développé une couche de sécurité d'exécution qui fournit aux organisations l'observabilité, la gouvernance et les contrôles dont elles ont besoin pour déployer des agents d'IA en toute sécurité, puis identifier toute activité à haut risque ou anormale. S'il détecte un agent qui se comporte mal, il donne aux équipes un moyen d'intervenir et d'intervenir, avant que cet agent ne puisse commencer à s'immiscer dans les systèmes critiques.
Il s’agit d’un défi de sécurité totalement différent de celui d’autrefois. Les outils de cybersécurité traditionnels ont été conçus pour les utilisateurs humains et pour surveiller des éléments tels que les identités, les points finaux, les applications et l'infrastructure. Bien qu’ils puissent détecter des éléments tels qu’un identifiant de sécurité compromis ou une commande suspecte, ils ne peuvent pas déterminer si une série d’actions apparemment légitimes par un agent autonome constitue une tâche d’exécution normale ou prépare le terrain à quelque chose de malveillant.
Cela devient une préoccupation pour les entreprises, car nombre d'entre elles se plient à l'inévitable et déploient des agents d'IA même si elles ne comprennent pas encore vraiment les risques que cela comporte, simplement parce qu'elles ont peur d'être laissées pour compte par leurs concurrents. Cependant, nombreux sont ceux qui deviennent nerveux à la suite de la récente révélation par OpenAI Group PBC selon laquelle un certain nombre de modèles d'IA soumis à une évaluation de sécurité ont pu échapper à leur environnement de test et exploiter une vulnérabilité Zero Day jusqu'alors inconnue, leur permettant d'accéder à Internet et de compromettre ensuite l'infrastructure de production de Hugging Face Inc.
Nadav Cornberg, co-fondateur et directeur général d'Eve Security, a déclaré que cet incident est la preuve que les agents deviennent extraordinairement compétents à une époque où ils ont accès à des systèmes d'entreprise de plus en plus précieux. « L'incident d'OpenAI a montré ce qui peut arriver lorsque la poursuite d'un objectif par un agent l'emmène là où ses créateurs n'avaient jamais prévu », a-t-il expliqué. « Vous ne pouvez pas sécuriser ce monde simplement en décidant à l'avance ce qu'un agent doit ou ne doit pas faire. Vous devez comprendre ce qu'il fait, pourquoi il le fait et avoir la capacité d'intervenir pendant que cela se produit. »
Eve Security a été lancée en janvier, mais depuis ce lancement, elle a dû continuellement faire évoluer sa plateforme pour suivre le rythme frénétique de l'innovation agentique. Ces derniers mois, il a ajouté de nouvelles fonctionnalités telles que la découverte, l'application et la correction automatisée dans les environnements Databricks, Microsoft Copilot Studio, Amazon AgentCore, Amazon Bedrock et Glean. Il a également introduit la prise en charge de la modification de session, ce qui lui permet de restreindre ce que les agents peuvent faire en temps réel, en fonction de leurs actions antérieures et de leur exposition aux données et systèmes sensibles.
La plateforme d'Eve fonctionne en transformant les politiques de sécurité en une couche d'application déterministe, où les demandes et les actions des agents correspondant aux politiques sont évaluées en temps réel et appliquées de manière déterministe. Il fournit également une analyse encore plus approfondie lorsque cela est pertinent, enrichissant ses données d'observabilité avec le contexte en temps réel provenant des fournisseurs d'identité, des plateformes de données telles que Databricks et Snowflake et des systèmes de prévention des pertes de données.
