Il ne fait aucun doute que 2026 est l’année de l’agent d’intelligence artificielle. Les agents IA sont remarquablement omniprésents, car les gens les utilisent pour écrire du code, communiquer avec les clients, identifier et résoudre les problèmes dans leurs environnements informatiques et exécuter des tâches complexes dans les environnements d'entreprise.
Il semble qu’il n’y ait rien que les agents ne puissent faire. Et pourtant, les risques inhérents aux comportements agents font l’actualité presque autant que leurs réussites. Des histoires d'horreur d'agents déraillant, sortant des bacs à sable et piratant d'autres entreprises et agences gouvernementales remplissent les ondes.
La stratégie d'IA de votre organisation peut dépendre des agents d'IA, mais étant donné les risques, devriez-vous vraiment compter sur eux pour le succès de votre entreprise ?
Comportement non déterministe : la plus grande force et la plus grande faiblesse des agents
Toute décision de déployer des agents dépend de la compréhension de leur comportement non déterministe.
Les agents d'aujourd'hui dépendent généralement de grands modèles de langage. Les LLM prennent en compte les entrées du langage humain et produisent des sorties en langage humain en prédisant le mot suivant dans une séquence.
Compte tenu de la manière dont les modèles sont entraînés, la répétition d’une entrée donnée peut produire des résultats très différents. En d’autres termes, les agents basés sur LLM sont intrinsèquement non déterministes.
Ce non-déterminisme donne aux agents leur pouvoir unique, car sans lui, les agents n'auraient pas agence: la capacité de prendre des décisions basées sur les informations disponibles pour prendre différentes actions pour atteindre les objectifs qui leur sont fixés.
Les logiciels sans agence ne sont pas des agents, par définition – bien qu'il existe de nombreux exemples de « lavage d'agents » que l'on appelle des agents logiciels déterministes.
Il existe d'autres exemples de logiciels non déterministes qui n'ont pas l'action offerte par les LLM, à savoir les logiciels basés sur le non-déterminisme stochastique basé sur des politiques. Des exemples courants de tels logiciels stochastiques incluent l'apprentissage par renforcement et les simulations de Monte Carlo : des logiciels qui prennent des décisions basées sur la randomisation.
Cependant, en dehors de ces exemples limités, la grande majorité des logiciels jamais écrits avant la vague agentique étaient déterministes : pour des entrées données, le logiciel fait toujours la même chose.
Bien entendu, ce comportement prévisible est notre motivation première pour créer des logiciels. Qu'il s'agisse de traiter des transactions bancaires, de gérer la paie, d'attribuer des sièges dans les avions ou de réaliser l'une des millions d'autres tâches pour lesquelles nous avons utilisé des ordinateurs au cours du siècle dernier, nous souhaitons un comportement prévisible.
Alors pourquoi voulons-nous maintenant le comportement imprévisible des agents IA ?
À quoi servent les agents d’IA ?
Les logiciels déterministes sont meilleurs lorsqu’il existe une bonne réponse et que vous souhaitez la trouver. Pensez à la gestion de la paie : l’objectif est de garantir que chacun reçoive le bon salaire – point final.
En revanche, le raisonnement non déterministe basé sur le LLM est plus logique lorsque vous souhaitez obtenir le meilleur résultat compte tenu d'une gamme d'entrées différentes ou changeantes, même s'il n'y a pas une seule bonne réponse.
Les exemples incluent la planification en fonction des conditions météorologiques, l'atténuation des incidents dans des environnements informatiques complexes et les prévisions commerciales basées sur plusieurs entrées, pour n'en nommer que quelques-uns.
Dans de telles situations, non seulement il n’y a pas une seule bonne réponse, mais la réponse que les agents proposent peut ou non être le meilleur résultat. Il y a toujours une chance qu'un agent donne une mauvaise réponse ou entreprenne une action indésirable.
Si vous ne voulez pas prendre un tel pari, n’utilisez pas d’agents.
Quand utiliser des agents IA est une mauvaise idée
Il existe plusieurs situations dans lesquelles l’utilisation d’agents IA est une mauvaise idée. En voici quelques-uns parmi les plus significatifs :
- Quand un logiciel déterministe répond à vos besoins. Non seulement les agents se comportent mal à l’occasion, mais leur gestion peut également coûter cher. Si un logiciel déterministe plus traditionnel suffit, alors les agents sont généralement un mauvais choix.
- Quand chaque décision ou action doit être exactement correcte. Ne laissez pas cet agent toucher à votre paie.
- Lorsqu’un mauvais comportement agent peut causer des dommages graves. Le risque qu'un agent se comporte mal peut être faible, mais si un tel comportement entraîne la mort d'un patient hospitalisé, un accident d'avion ou l'explosion d'une plate-forme pétrolière, alors même une faible probabilité qu'un agent déraille ne vaut pas le risque.
- Lorsque les agents coûtent trop cher compte tenu des avantages commerciaux que vous recherchez. Les agents peuvent passer plusieurs appels LLM, réessayer diverses actions et invoquer des outils coûteux pour atteindre leurs objectifs. Si le coût d’un tel comportement dépasse les avantages commerciaux que vous attendez, alors les agents n’ont aucun sens économique.
- Quand les qualités humaines sont essentielles pour atteindre vos objectifs. Les LLM (et donc les agents) sont efficaces pour simuler des caractéristiques humaines telles que l'empathie, la créativité, la perspicacité et la compréhension, mais tout ce qu'ils font en réalité, c'est imiter le comportement humain. Lorsque votre objectif requiert de telles capacités humaines, ne vous y trompez pas : l’anthropomorphisation du comportement agent se retournera toujours contre vous.
L’anthropomorphisme du comportement des agents (et de l’IA en général) est un risque subtil et mal compris – mais peut-être le plus pernicieux de tous. Croire que les robots peuvent réellement penser et ressentir comme des humains peut entraîner un risque accru de suicide, une dépendance excessive à l’égard de la technologie et d’autres comportements dangereux et contre-productifs. Sois prudent.
Comment décider quand utiliser des agents
Pour déterminer si la décision de déployer des agents est la meilleure dans une situation particulière, inspirez-vous du manuel d'ingénierie de fiabilité du site ou du manuel SRE : calculez le budget d'erreur.
Le bilan d’erreur représente le coût acceptable d’un mauvais comportement d’un agent, compte tenu de tous les facteurs pertinents, exprimé en pourcentage. Par exemple, vous pouvez calculer que votre budget d'erreur est de 5 %, ce qui signifie que vous êtes d'accord avec les agents qui se comportent mal 5 % du temps, compte tenu du coût supplémentaire qu'il vous en coûterait pour réduire ce chiffre.
Si vous calculez que votre budget d'erreur pour un agent est nul, vous venez de conclure que vous ne devriez pas du tout déployer cet agent. N'oubliez pas qu'il existe toujours un risque qu'un agent se comporte mal.
Une fois que vous avez votre budget d'erreur, effectuez un simple exercice de théorie de la décision : lorsque le budget d'erreur (probabilité d'échec) multiplié par le coût global de l'échec est supérieur à la probabilité d'un résultat réussi multipliée par l'avantage commercial quantifié de ce résultat, vous ne devez pas déployer l'agent.
En d’autres termes, le bénéfice commercial que vous espérez obtenir si vos agents se comportent correctement devrait dépasser le coût total d’un échec.
Il y a cependant un autre facteur à considérer. N'oubliez pas que vous basez ce calcul sur des estimations, dont une partie ou la totalité peut être incorrecte.
En conséquence, votre bénéfice commercial attendu devrait largement dépasser votre coût tout compris en cas de défaillance d’un agent – son ampleur dépendant de votre appétit global pour le risque.
La prise Intellyx
Une tendance dominante sur le marché de l’IA aujourd’hui est de répondre aux risques inhérents à l’IA agentique avec des technologies permettant d’atténuer ces risques. La théorie est que si seulement nous disposions de meilleurs logiciels de gouvernance et de sécurité, nous serions alors en mesure de maîtriser suffisamment nos agents pour les déployer en toute impunité.
Il y a cependant une faille dans ce raisonnement. L’idée maîtresse d’une grande partie de l’innovation en matière de gouvernance agentique est de limiter la nature imprévisible des agents afin de les maintenir dans le droit chemin – malgré le fait que c’est précisément cette imprévisibilité qui donne aux agents leur pouvoir d’agir.
En d’autres termes, nous risquons de tuer la Golden Goose : les LLM nous fournissent ces agents extrêmement puissants, et en réponse, nous faisons ce que nous pouvons pour les entraver au point qu’ils ne sont plus aussi utiles que nous l’espérions.
J'envisage un avenir différent. Une fois que tout le battage médiatique autour des agents d’IA se sera calmé et que la technologie aura mûri, je prédis que nous découvrirons qu’il est préférable d’utiliser les agents avec parcimonie.
Après tout, les logiciels déterministes répondent à nos besoins depuis des décennies. Voulons-nous vraiment que les agents prennent le relais ? J'ai mes doutes.
Jason Bloomberg est fondateur et directeur général d'Intellix, qui conseille les chefs d'entreprise et les fournisseurs de technologies sur leurs stratégies de transformation numérique. Il a écrit cet article pour SiliconANGLE. Tout de IntellyxLe contenu de est 100 % généré par l'homme, y compris cet article.
