La société de plateforme de sécurité d'intelligence artificielle DeepKeep Ltd. a annoncé aujourd'hui le lancement de Vibe AI Red Teaming, une fonctionnalité conçue pour les tests dynamiques et la simulation d'attaques pilotés par l'homme sur les applications et les agents d'IA.
La nouvelle solution voit l'introduction d'une nouvelle approche que DeepKeep décrit comme « au-delà du red teaming automatisé », car elle permet aux équipes de sécurité de guider l'exécution en fonction de leur connaissance du domaine et de leurs besoins et objectifs spécifiques.
À mesure que l’IA est mise en œuvre dans les opérations commerciales avec une autonomie et un accès croissants aux opérations, aux données et aux applications, les risques de fuite de données, d’exploitation malveillante et de manipulation contradictoire continuent d’augmenter. Deepkeep affirme que de nombreux systèmes ne protègent pas correctement les données sensibles, ce qui reflète non seulement un risque croissant, mais également un fossé grandissant en matière d'expertise à l'intersection de l'IA et de la sécurité.
Les méthodes traditionnelles de red teaming sont généralement manuelles et nécessitent un haut niveau d’expertise humaine et un investissement de temps important, ce qui les rend coûteuses à mettre en œuvre mais aussi presque impossibles à mettre à l’échelle. Dans le même temps, affirme Deepseek, les équipes rouges entièrement automatisées sont souvent moins complètes et n’utilisent pas de précieuses connaissances du domaine, ce qui se traduit par une flexibilité, une profondeur et des résultats limités.
Vibe AI Red Teaming de DeepKeep a été conçu pour résoudre ces problèmes en combinant une exécution pilotée par un agent avec des commandes pilotées par l'homme. Grâce au nouveau service, les équipes de sécurité peuvent affiner les attaques en temps réel, sélectionner le type et la profondeur des attaques, définir des objectifs de test tels que l'évaluation de l'exposition des données ou la validation de la conformité aux cadres de sécurité et personnaliser le processus de manière dynamique pour des résultats plus significatifs et exploitables.
La nouvelle offre repose sur une approche interactive basée sur des agents avec des conseils humains qui permettent aux équipes de sécurité de diriger activement l'équipe rouge au fur et à mesure du déroulement des tests, d'intervenir aux points de décision clés, d'adapter les plans en temps réel en fonction des résultats intermédiaires et d'introduire des scénarios personnalisés ou des invites à mi-exécution. Vibe AI Red Teaming fournit également des recommandations et des options d'atténuation pertinentes, ainsi que des rapports personnalisés qui offrent une visibilité en temps opportun sur les risques émergents pour les parties prenantes en matière de sécurité, de direction et de conformité.
Le résultat est une capacité qui teste les systèmes d’IA sur l’ensemble du spectre, y compris les modèles fondamentaux, les applications d’IA et les agents d’IA.
« L'avenir de la sécurité de l'IA est aussi dynamique que l'IA elle-même et Vibe Red Teaming est notre dernière solution pour garantir que les entreprises peuvent continuer à faire évoluer leur utilisation de l'IA sans compromettre la sécurité ou la confiance », a déclaré Yossi Altevet, directeur de la technologie. « Tout comme le vibe coding a ouvert de nouvelles portes aux développeurs, Vibe AI Red Teaming constitue la prochaine étape naturelle dans l'évolution de la sécurité de l'IA, permettant aux responsables de la sécurité de l'information et aux équipes de sécurité de garder le contrôle total du processus et des résultats des tests afin de protéger leurs écosystèmes d'IA contre les menaces présentes et futures.
La fonctionnalité Vibe AI Red Teaming est disponible dans le cadre de la plateforme de sécurité IA de DeepKeep.
