Fortinet Inc. a annoncé son intention d'acquérir Virtue AI Inc. Lundi, et même si les aspects financiers sont intéressants, ce qui est plus significatif est la façon dont cela aidera les entreprises à relever leur prochain grand défi de sécurité : comment sécuriser l'intelligence artificielle agentique ?
L'IA générative a soulevé de nouvelles préoccupations concernant les fuites de données, l'utilisation non autorisée et les résultats inexacts. L'IA agentique augmente les enjeux de sécurité, car elle est beaucoup plus difficile à sécuriser et l'impact des violations est plus important. Ces systèmes peuvent récupérer des informations, appeler des interfaces de programmation d'applications, déclencher des flux de travail, interagir avec des applications et, de plus en plus, agir au nom des personnes. Cela fait qu'un agent IA ressemble moins à un « chatbot » qu'à un employé numérique doté d'identifiants d'accès, d'autorisations et de la capacité d'influencer les processus métier.
La réponse de l'industrie ne peut se limiter à sécuriser le modèle ou à filtrer les invites. Les organisations doivent sécuriser le cycle de vie complet de l’IA autonome : à quelles données un agent peut accéder, quels outils il peut utiliser, quelles décisions il est autorisé à prendre, comment ces actions sont surveillées et quand les humains doivent intervenir. C'est pourquoi l'acquisition par Fortinet de Virtue AI, qui apporte à l'entreprise la protection de l'exécution de l'IA, la validation automatisée de l'IA et les capacités de sécurité de l'IA agentique, est d'une importance stratégique.
Pourquoi l'IA agentique change l'équation de la sécurité
La sécurité traditionnelle des applications a été conçue pour des systèmes relativement prévisibles. Le code peut être mis à jour périodiquement, mais il fonctionne généralement selon des paramètres définis. Les utilisateurs s'authentifient, les applications font des requêtes connues et les équipes de sécurité peuvent établir des politiques basées sur le comportement attendu.
L'IA agentique fonctionne différemment. Un agent peut décider dynamiquement quels outils appeler, quelles informations récupérer et quelle prochaine étape entreprendre en fonction du contexte qu'il reçoit. Il peut interagir avec plusieurs systèmes au sein d'un seul flux de travail, en s'appuyant sur les données clients, les bases de connaissances internes, les services cloud et les applications métier. Dans certains cas, un agent peut déléguer des tâches à un autre.
C’est cette flexibilité qui rend l’IA agentique précieuse. C’est aussi ce qui rend la sécurisation difficile. Le principal défi réside dans le fait que les agents opèrent dans des environnements en constante évolution. Un modèle peut être mis à jour. Une invite peut être modifiée. Un nouveau connecteur API peut être ajouté. La source de données d'un système de récupération peut changer. Une équipe commerciale peut étendre le rôle d'un agent de la réponse aux questions à l'initiation de transactions. Chaque changement peut modifier le profil de risque du système.
Cela soulève plusieurs problèmes de sécurité. Une injection rapide peut amener un agent à ignorer les instructions prévues ou à le manipuler pour qu'il entreprenne une action involontaire. Des autorisations excessives peuvent transformer une erreur mineure en un incident important. Les outils connectés peuvent créer des chemins indirects vers des systèmes critiques. Les données sensibles peuvent être exposées en raison d'une récupération ou d'une exécution de flux de travail mal gérée. Étant donné que les agents peuvent fonctionner à la vitesse d’une machine, une décision erronée peut dégénérer beaucoup plus rapidement qu’un événement de sécurité traditionnel piloté par l’homme.
La plus grande erreur que les entreprises puissent commettre est de traiter les agents d’IA comme une simple catégorie d’applications parmi d’autres. Ce sont des acteurs dynamiques de l’environnement. Ils ont des identités, des autorisations, des modèles de comportement et des connexions avec d’autres systèmes. Les contrôles de sécurité doivent refléter cette réalité.
Pourquoi une protection continue de l’IA est nécessaire
La plupart des programmes de sécurité s’appuient encore largement sur des évaluations ponctuelles. Une application est testée avant de passer en production. Un fournisseur est examiné lors de l'approvisionnement. Une configuration est auditée périodiquement. Ces processus restent importants, mais ils sont insuffisants pour une IA autonome.
Un agent IA peut se comporter différemment demain, même si personne ne modifie le processus métier sous-jacent. Un nouvel ensemble de données peut introduire un contenu inattendu. Un fournisseur de modèles peut modifier le comportement du modèle. L'intégration d'un outil peut modifier ses capacités. Un adversaire peut trouver un nouveau moyen d’influencer l’agent via un contenu, des instructions ou des entrées malveillantes.
C’est pourquoi une protection continue de l’IA est si importante. La protection continue signifie valider un agent avant son déploiement, le surveiller pendant son fonctionnement et le réévaluer chaque fois que son modèle, ses données, ses outils, ses autorisations ou son rôle changent. Cela signifie également aller au-delà des simples garde-fous au niveau de l'interface du modèle et gagner en visibilité sur les décisions, les appels d'outils et les résultats de l'agent.
L’objectif ne doit pas être d’empêcher les entreprises d’utiliser l’IA agentique. Ce serait irréaliste et stratégiquement contre-productif. L’objectif devrait être de permettre aux organisations de déployer des agents en toute confiance en établissant des garde-fous significatifs pour leur comportement.
Une approche pratique et continue de protection devrait comprendre plusieurs éléments :
- Inventaire clair de tous les agents IA, de leurs propriétaires et de leur objectif commercial.
- Visibilité sur les sources de données, les applications et les outils auxquels chaque agent peut accéder.
- Autorisations de moindre privilège qui limitent les agents aux seules actions dont ils ont besoin.
- Tests continus pour une injection rapide, une utilisation dangereuse des outils, des fuites de données et des violations de politiques.
- Surveillance d'exécution qui détecte les comportements inhabituels ou les actions en dehors des paramètres attendus.
- Exigences d'approbation humaine pour les tâches à fort impact, telles que les transactions financières, les changements de système ou les modifications d'accès.
- Journaux détaillés reliant les invites, les décisions des agents, les appels d'outils, les identités et les résultats.
C’est là que la sécurité devra évoluer de la protection de l’infrastructure et des applications à la gouvernance du comportement. La possibilité de voir qu'un agent connecté à une application particulière est utile. La capacité de comprendre pourquoi elle a agi, quelles données elle a utilisées, quel outil elle a appelé et si l’action était conforme à la politique est bien plus précieuse.
Comment Virtue AI s'adapte à l'histoire de la plateforme de sécurité de Fortinet
Fortinet met depuis longtemps l’accent sur la convergence des réseaux et de la sécurité à travers sa Security Fabric. L'argument principal de l'entreprise est que les entreprises sont mieux servies lorsque les contrôles de sécurité partagent les informations, les politiques et l'application sur les réseaux, les cloud, les points finaux et les opérations, plutôt que de fonctionner comme des produits ponctuels déconnectés.
L’ajout de Virtue AI étend cette thèse à l’IA agentique. Fortinet dispose déjà de fonctionnalités de sécurité liées à l'IA, notamment des outils pour protéger les interactions de l'IA et des efforts plus larges pour intégrer l'IA dans les opérations de sécurité. Virtue AI ajoute une couche plus spécifique axée sur la validation et la protection des agents d'IA pendant leur fonctionnement.
Sécuriser le trafic vers et depuis un grand modèle de langage est nécessaire, mais ce n’est qu’une partie du problème. Les entreprises doivent également sécuriser ce que fait l’agent après avoir reçu une réponse d’un modèle. Peut-il accéder à des données sensibles ? Peut-il envoyer un email ? Peut-il créer un ticket ? Est-ce que ça peut changer une configuration ? Peut-il déclencher un workflow financier ? Peut-il invoquer un autre agent ?
Les capacités de Virtue AI devraient aider Fortinet à élargir l'histoire de sa plateforme, de la protection de l'accès à l'IA à la protection des actions de l'IA. Si elle est intégrée efficacement, la technologie pourrait fournir aux clients de Fortinet un moyen d'appliquer une politique et une visibilité cohérentes sur le réseau, les applications, les points finaux et les systèmes de plus en plus autonomes fonctionnant dans ces environnements.
Cela est particulièrement important pour les entreprises déjà confrontées à la prolifération des outils de sécurité. Peu d’organisations souhaitent déployer un produit ponctuel distinct pour chaque nouveau risque lié à l’IA. Ils veulent une protection IA qui s’intègre dans les flux de travail opérationnels existants, utilise la télémétrie existante et puisse être gérée parallèlement à des contrôles de sécurité plus larges.
La preuve en viendra par l’exécution. Fortinet devra démontrer comment Virtue AI s'intègre à la Security Fabric au sens large, comment les clients peuvent la rendre opérationnelle sans ajouter de complexité inutile et comment la technologie fonctionne dans des environnements multifournisseurs. Les plateformes de sécurité IA les plus performantes ne seront pas celles dont les revendications marketing sont les plus ambitieuses. Ce seront ceux qui rendront l’IA autonome plus sûre sans ralentir la valeur commerciale qu’elle peut créer.
Recommandations pour les professionnels de la sécurité
Les responsables de la sécurité devraient considérer l’IA agentique comme une nouvelle classe de travailleurs numériques privilégiés, et non comme une simple application de logiciel en tant que service ou un chatbot. Commencez par inventorier tous les agents d'IA déjà utilisés, y compris les expériences départementales, et documentez les données auxquelles ils peuvent accéder, les outils qu'ils peuvent invoquer et les actions qu'ils sont autorisés à effectuer.
Les contrôles fondamentaux sont ceux que la plupart des professionnels de la sécurité utilisent aujourd’hui. Ceux-ci incluent l’accès au moindre privilège, une solide gouvernance des identités, la segmentation, la journalisation et l’approbation humaine pour les actions à fort impact. La différence est que ces contrôles doivent être évalués en permanence, car le comportement d'un agent peut changer à mesure que les modèles, les invites, les outils et les sources de données connectées évoluent.
Les organisations doivent également établir un cycle de vie formel de l'agent IA : valider un agent avant la production, surveiller son comportement au moment de l'exécution, le tester par rapport aux entrées contradictoires et révoquer ou réduire les autorisations lorsque son rôle change. Les équipes de sécurité doivent insister sur la télémétrie qui relie l'invite, la décision, l'appel à l'outil, l'identité et le résultat d'un agent. Sans cette vue de bout en bout, enquêter sur un incident piloté par l’IA devient un exercice de reconstruction d’un événement après que les dommages se soient déjà produits.
Enfin, les entreprises devraient privilégier des architectures de sécurité capables d’appliquer des politiques de manière cohérente sur les réseaux, les identités, les points de terminaison, les applications et les interactions avec l’IA, plutôt que d’ajouter un autre tableau de bord isolé pour chaque nouveau cas d’utilisation de l’IA.
Réflexions finales
L'acquisition de Virtue AI par Fortinet reflète une réalité importante du marché : l'IA agentique est susceptible de créer davantage de travail de sécurité, pas moins. Les entreprises qui bénéficieront le plus de l’IA autonome seront celles qui associent l’expérimentation à des garde-fous disciplinés, une validation continue et une responsabilité claire des actions des agents.
L’IA peut remodeler le marché de la sécurité et forcer tous les acteurs historiques à évoluer, mais elle n’éliminera pas le besoin de plateformes de sécurité. Au contraire, cela augmente la valeur d’une plateforme capable de voir, de gouverner et de réagir dans l’environnement de plus en plus connecté dans lequel évoluent les agents d’IA.
Zeus Kerravala est analyste principal chez ZK Research, une division de Kerravala Consulting. Il a écrit cet article pour SiliconANGLE.
