La société de cybersécurité basée au Royaume-Uni Darktrace Holdings Ltd. a rendu aujourd'hui son offre SECURE AI largement disponible, apportant son approche de détection comportementale à l'utilisation en entreprise d'outils et d'agents d'intelligence artificielle.
Cette version est destinée à l’utilisation de l’IA qui s’est répandue dans l’entreprise plus rapidement que les équipes de sécurité ne peuvent en suivre la trace. La télémétrie d'environ 8 200 déploiements Darktrace montre que plus de 80 % des comptes clients surveillés ont utilisé des services d'IA générative en août, et l'organisation moyenne a fait affaire avec cinq fournisseurs d'IA différents ce mois-là.
La société a proposé trois exemples de premiers déploiements clients. Une organisation avait approuvé un seul assistant IA, mais a découvert que la plupart de ses employés utilisaient des services non autorisés. Dans un autre pays, près de 90 agents d'IA ont été créés dans un environnement de développement low-code, sans processus d'approbation pour leur création. L'utilisation non gérée de plusieurs plates-formes d'IA par des sous-traitants d'une entreprise tierce a conduit à un examen juridique immédiat.
Les produits de sécurité de Darktrace détectent les menaces en apprenant à quoi ressemble l'activité normale chez chaque client. SECURE AI souligne la même détection lors de l'utilisation de l'IA, et la version de disponibilité générale comprend des intégrations avec Amazon Web Services Inc., Anthropic PBC, Microsoft Corp. et OpenAI Group PBC.
Les sessions dans ChatGPT Enterprise, Claude, Microsoft Copilot et Amazon Bedrock sont analysées en temps réel pour détecter les tentatives de jailbreak et l'exposition de données sensibles, ainsi que les signes d'injection d'invite indirecte. Chaque session est classée par risque afin que les analystes sachent par où commencer.
La détection de Shadow AI s’appuie en partie sur des intégrations de pointe de services d’accès sécurisé telles que Microsoft Entra Global Secure Access. Les administrateurs peuvent bloquer les services non autorisés ou mettre carrément un appareil en quarantaine. Les entreprises peuvent également télécharger leurs propres politiques d’IA sous forme de texte libre et demander au logiciel de les comparer aux cadres réglementaires et de conformité.
Darktrace mappe également les agents IA aux utilisateurs humains derrière eux et enregistre ce que chaque agent est autorisé à atteindre. La couverture s'étend aux environnements de développement tels qu'Amazon Bedrock et Microsoft Copilot Studio, où des autorisations excessives et des erreurs de configuration peuvent être détectées alors qu'un agent est encore en cours de création.
Ed Jennings, qui a pris la direction de Darktrace en mars, a déclaré que le secteur de la sécurité avait passé deux décennies à cataloguer les menaces connues. « L’IA brise ce modèle », a-t-il déclaré. La prochaine attaque ne sera pas toujours reconnaissable à l’avance, selon lui, donc le signal qui compte est le moment où quelque chose « commence à se comporter différemment de ce qui est normal pour l’organisation ».
Darktrace est membre du Daybreak Defense Network, le groupe de partenaires de cybersécurité d'OpenAI. Dans le cadre de ce programme, Darktrace développe des capacités qui associent les modèles Daybreak d'OpenAI à ses propres données comportementales, dans le but de montrer aux défenseurs quelles personnes et quels systèmes un incident lié à l'IA a touché. McCall McIntyre, responsable des cyberpartenariats mondiaux chez OpenAI, a déclaré que travailler avec des partenaires tels que Darktrace est « essentiel pour traduire les progrès de l’IA en défenses plus solides et pratiques ».
Annoncé en février, SECURE AI est désormais en vente aux clients Darktrace, nouveaux et existants, en tant que produit autonome ou dans le cadre de la plateforme de défense comportementale Darktrace. AWS Marketplace et Microsoft Marketplace le proposent également.
