Les agents d’intelligence artificielle passent de l’expérimentation à la production, et avec ce changement, les enjeux augmentent.
Un agent de codage chez PocketOS a récemment supprimé une base de données de production entière. Un agent de Meta a exposé des données utilisateur sensibles pendant deux heures. Un chatbot de support Instagram a permis aux pirates de pirater des milliers de comptes. Et le mois dernier, des chercheurs ont trompé un agent GitHub pour qu'il divulgue les données d'un référentiel privé.
Dans chaque cas, l’agent a fait ce pour quoi il a été conçu ; ce qui a échoué, c'est tout ce qui l'entourait. L’intelligence progresse plus rapidement que les organisations ne peuvent la déployer en toute sécurité. Fournir suffisamment de contexte et de contrôles pour garantir qu'un agent produit des résultats précis et ne dépasse pas ses limites est le principal dilemme.
Cette difficulté aide à expliquer pourquoi les fournisseurs de modèles ont investi dans des partenariats pour aider leurs clients à faire fonctionner l’IA, et pourquoi « ingénieur déployé vers l’avant » est devenu le métier le plus en vogue dans le secteur technologique. Les modèles excellent dans la reconnaissance de formes, mais un déploiement sûr nécessite la compréhension de milliers de systèmes déconnectés, de structures de données et de règles de conformité qui alimentent les opérations des entreprises.
Combler cet écart ne nécessite pas une armée de consultants. Cela nécessite un cadre architectural comportant quatre caractéristiques, chacune aidant à convertir les résultats probabilistes d'un système d'IA en décisions vérifiables auxquelles votre entreprise peut faire confiance.
Sens
Un agent est aussi fiable que les informations avec lesquelles il travaille. Si une politique change, un système tombe en panne ou le statut d'un client change et que cette mise à jour ne parvient pas à l'IA à temps, chaque décision en aval sera prise sur la base de faits obsolètes. Sense est la couche architecturale qui maintient cette image à jour.
Pour y parvenir, il faut se connecter aux données où qu'elles se trouvent, dans tous les départements, systèmes et cloud, plutôt que d'exiger que tout soit centralisé, c'est pourquoi les projets d'IA d'entreprise s'arrêtent souvent avant de démarrer. Cela signifie également traiter ces données comme un signal en direct et non comme un instantané. Le système doit remarquer les changements importants et les transmettre en temps réel, et non lors de la prochaine synchronisation planifiée.
Décider
Les données montrent ce qui se passe actuellement. Cela ne montre pas ce qui s’est passé la dernière fois que quelqu’un a pris une décision similaire, ni pourquoi ce résultat était important. Cette différence sépare un agent qui peut « voir » votre entreprise de celui qui comprend comment elle fonctionne.
Intégrer ce jugement à l’IA signifie l’ancrer dans l’historique de décision et les politiques d’une organisation, et pas seulement dans ses données réelles. Un agent traitant une demande de routine doit avoir accès à la manière dont les 20 dernières demandes similaires ont été résolues et à ce qui s'est produit en conséquence. Lors de l’incident Meta, un agent interne a donné à un ingénieur des conseils techniques erronés qui ont conduit à l’exposition des données. Avec un meilleur contexte, tiré de la façon dont des changements historiques similaires se sont produits, ce résultat aurait pu être évité.
Acte
Un agent qui fait des recommandations laisse toujours le travail aux gens. Maximiser le retour sur investissement de l’IA nécessite des agents capables d’exécuter, et pas seulement de conseiller.
Construire un agent compétent est gérable. La coordination de plusieurs dans un flux de travail nécessite plusieurs couches. Le système doit transmettre le contexte entre les étapes, appliquer une politique cohérente à chacune d'entre elles et rester synchronisé à mesure que les systèmes sous-jacents changent, le tout sans perdre la gouvernance qui empêche un agent d'agir en dehors de sa voie. Cette couche d'orchestration permet aux agents de travailler de concert et d'accomplir des tâches de bout en bout de manière fiable.
Sécurisé
Les outils autonomes nécessitent la même discipline d'accès qu'une entreprise applique déjà à ses employés : une identité limitée, des autorisations limitées à une tâche spécifique et une piste d'audit claire.
Dans l’incident d’Instagram, une portée plus stricte et une vérification en temps réel de ce que le robot était autorisé à faire auraient pu détecter l’erreur. Chaque agent a besoin d'un ensemble d'autorisations lié à son rôle spécifique et d'une journalisation de chaque action qu'il entreprend. Ils nécessitent également un kill switch, un moyen de couper l'accès d'un agent dès que quelque chose ne va pas. Toutes les bonnes pratiques de gestion des identités et des accès que votre entreprise connaît déjà doivent désormais être étendues aux acteurs non humains.
L'avantage est toujours réel
Aucune de ces conditions préalables n’enlève rien au chemin parcouru par les modèles et à ce qu’ils peuvent réaliser. Les modèles évoluent rapidement et leurs capacités sont réelles. Mais le renseignement n’a jamais été la partie la plus difficile. La connexion sécurisée à une entreprise – ses systèmes, ses règles, son historique de ce qui a fonctionné et de ce qui n’a pas fonctionné – est le point où de nombreux investissements en IA sont à la traîne. L’IA agentique présente de réels avantages pour les entreprises qui y parviennent. Sentir, décider, agir et sécuriser sont les moyens pour y arriver en toute sécurité.
Amit Zavery est président, chef de produit et chef de l'exploitation de ServiceNow Inc. Il a écrit cet article pour SiliconANGLE.
