Les agents d'intelligence artificielle s'exécutent déjà dans les flux de travail de votre entreprise, que vous le sachiez ou non.
International Data Corp. prévoit un déploiement complet de l'IA agentique dans l'entreprise d'ici 2027. Gartner Inc. estime que 40 % des applications d'entreprise intégreront des agents spécifiques à des tâches d'ici la fin de cette année, contre moins de 5 % en 2025.
Les interfaces de programmation d’applications dont dépendent ces agents n’ont pas été conçues pour eux. Ils ont été conçus pour des applications pilotées par l'homme qui supposent le jugement implicite exercé par un développeur. Mais les entreprises gèrent désormais des milliers d’API au sein des équipes, des fournisseurs et des systèmes existants, dont beaucoup ne sont ni documentées ni gouvernées. Cet étalement était déjà un problème ; les agents en font une crise.
Ces systèmes peuvent halluciner des actions, pas seulement du texte, et cela peut être considérablement amplifié par des API mal définies. Un agent connecté à un système financier qui interprète mal une demande peut initier un paiement non autorisé, modifier des enregistrements de manière incorrecte et exposer des données sensibles, le tout via un point de terminaison d'API mal utilisé.
Ce n’est pas hypothétique. En 2024, des attaquants d’une grande institution financière ont envoyé un e-mail contenant des instructions cachées intégrées qui ont amené un assistant IA à approuver des virements électroniques frauduleux totalisant 2,3 millions de dollars. L’agent a fait exactement ce pour quoi il avait été conçu. L'API ne faisait pas la différence.
Pour aggraver la situation, un agent peut continuer à fonctionner à la vitesse et à l’échelle d’une machine avant qu’un humain n’intervienne. Si les garde-corps sont insuffisants, les dégâts s’accumulent plus rapidement qu’on ne peut le détecter.
Construire une base solide
Lors de la gestion des risques liés aux agents d’IA, la meilleure réponse consiste à se concentrer sur des approches de sécurité éprouvées, même si celles-ci sont souvent mises en œuvre de manière incohérente. Voici à quoi cela ressemble en pratique :
- Inventaire: Savez-vous où se trouvent toutes vos API ? Vous devez disposer d'un catalogue d'API qui couvre l'ensemble du cycle de vie, et pas seulement ce qui est en production aujourd'hui.
- Politique: Définissez une gouvernance claire sur la façon dont les agents et les API doivent se comporter. Que se passe-t-il lorsque les actions dépassent les limites ? Des politiques strictes incluent une validation axée sur le schéma sur chaque champ, une authentification, une limitation du débit et des processus robustes d'intégration et de déploiement continus.
- Application : Les politiques doivent être activement appliquées, et pas seulement documentées. Cela signifie appliquer des contrôles de manière cohérente sur toutes les API et interactions avec les agents.
- Détection: Mettre en œuvre des fonctions de surveillance capables d'identifier et de répondre aux anomalies ; les systèmes doivent détecter quand un comportement s’écarte des modèles normaux et agir en conséquence.
Contrainte d'exercice
La prochaine étape consiste à appliquer les meilleures pratiques. Tout d’abord, contraignez vos agents IA. Cartographiez les flux de travail et anticipez les conséquences néfastes potentielles. Ce processus nécessite du temps et une contribution interfonctionnelle de la part de personnes qui comprennent les processus métier impliqués. Les contraintes ne sont pas des limitations du pouvoir des agents ; c’est ce qui rend les agents fiables, efficaces et sécurisés.
Ensuite, implémentez un accès aux données prenant en compte les autorisations et des limites d’exécution déterministes. Les agents doivent opérer avec des identités, des rôles et des contrôles d'accès de moindre privilège clairement définis. Mais allez plus loin. Les limites d'exécution définissent les actions spécifiques qu'un agent est autorisé à entreprendre, et pas seulement les données qu'il peut voir. C’est la différence entre contrôler ce qu’un agent sait et contrôler ce qu’il peut faire.
La journalisation des intentions d’utilisation est une autre pratique essentielle. Collectez l'invite de l'utilisateur, les étapes de raisonnement de l'agent, l'action proposée, l'approbation ou le rejet humain et le résultat final. Cela crée la piste d’audit nécessaire pour comprendre si les agents s’améliorent ou se dégradent au fil du temps.
Documenter le raisonnement
Cette approche s'aligne sur les exigences réglementaires critiques : la journalisation des intentions d'utilisation correspond directement à la norme de sauvegarde technique HIPAA 45 CFR §164.312(b) de la Health Insurance Portability and Accountability Act pour les contrôles d'audit. Vous devez documenter toute la chaîne d'exécution : l'invite initiale, les étapes de raisonnement, l'action prévue et l'intervention humaine qui en résulte. Lorsque les agents exécutent des appels d'API en mutation de manière autonome à grande échelle, ce flux de journaux haute fidélité détermine si un incident peut être défendu auprès d'un régulateur ou s'il s'agit d'un échec total de conformité.
La gestion des données n'est pas négociable. Les agents ne doivent voir que ce dont ils ont besoin pour la tâche à accomplir, rien de plus. Appliquez les conteneurs éphémères, chiffrez au repos, en transit et en cours d'utilisation, supprimez les informations personnelles identifiables avant qu'elles n'atteignent le modèle et obligez les sous-traitants à respecter des accords de conservation de données nuls lorsque cela est possible. Si un régulateur demande quelles données l’agent a touchées, vous devriez être en mesure de répondre avec précision.
Simplifiez votre chaîne d'approvisionnement en IA. Avoir trop d'outils, de modèles et d'intégrations ne permet pas d'évoluer ; cela crée des angles morts en matière de sécurité et des échecs en matière de gouvernance. Plus la pile est complexe, plus il est difficile de maintenir l’observabilité et le contrôle.
Les contrôles administratifs complètent le tableau. Ceux-ci incluent des kill switchs, des contrôles d'accès basés sur les utilisateurs et les groupes et des listes d'autorisations de serveur Model Context Protocol. La gouvernance doit également être calibrée sur la phase de déploiement : les projets expérimentaux ont besoin de flexibilité tandis que les systèmes de production exigent des contrôles, des audits et des cadres de conformité plus stricts.
Activation responsable
L’objectif ici n’est pas de bloquer l’IA agentique mais de construire les bases qui justifient son déploiement. Les attaquants ne vont pas créer de nouveaux exploits pour vos agents IA ; ils vont trouver l'API que vous avez oublié d'inventorier, le jeton OAuth dont la portée était trop large et l'écart de journalisation qui signifie que personne ne l'a remarqué.
La montée en puissance des agents IA et leur forte dépendance à l’égard des API nécessitent une approche plus disciplinée de la gestion des API. L’ère agentique n’a pas besoin de nouveaux principes de sécurité. Il faut ceux qui ont fait leurs preuves et qui sont correctement mis en œuvre. Les bonnes barrières de sécurité ne limitent pas ce que les agents peuvent faire ; c'est ce qui les rend suffisamment dignes de confiance pour faire plus.
Obtenez une bonne gouvernance des API et le rayon d’explosion diminue. Si vous vous trompez, cela se développera plus rapidement que n'importe quelle équipe ne peut le gérer.
Chehab est responsable de la sécurité et de l'informatique chez Postman Inc. Il a écrit cet article pour SiliconANGLE.
