L'observabilité d'entreprise entre dans une nouvelle phase à mesure que l'intelligence artificielle modifie à la fois les applications que les entreprises doivent surveiller et la manière dont les équipes opérationnelles réagissent en cas de problème.
Les plates-formes d'observabilité traditionnelles ont été construites autour de logiciels déterministes et de télémétrie, tels que les journaux, les métriques et les traces. Mais les applications et les agents d’IA se comportent différemment, produisant des résultats qui peuvent varier même lorsque les données sont similaires. Dans le même temps, les entreprises s’attendent de plus en plus à ce que les plateformes d’observabilité aillent au-delà de l’identification des problèmes et fournissent suffisamment de contexte pour que les humains et les agents d’IA puissent diagnostiquer, résoudre et potentiellement agir sur ces problèmes.
Cette transition constitue la toile de fond de l'acquisition d'Arize AI par Dynatrace, qui apporte des capacités d'observabilité, d'évaluation et de surveillance des agents de l'IA à la plateforme plus large d'observabilité des applications de Dynatrace.
Dans le dernier épisode du podcast AppDevANGLE de CUBE Research, Paul Nashawaty, responsable de la pratique et analyste principal, s'est entretenu avec Steve Tack, directeur des produits de Dynatrace, et Aparna Dhinakaran, co-fondatrice et directrice des produits d'Arize AI, sur les raisons pour lesquelles l'observabilité des applications et l'observabilité de l'IA convergent et ce que cela signifie pour les opérations de l'entreprise.
« Le monde a tellement changé », a déclaré Tack. « L'IA apporte de nouveaux problèmes, de nouveaux domaines dans l'espace. »
Du logiciel déterministe aux systèmes non déterministes
L’un des changements les plus importants se produit au sein des applications elles-mêmes. Les logiciels traditionnels produisent généralement des résultats prévisibles. Les applications basées sur l'IA, en particulier celles intégrant de grands modèles de langage et des agents autonomes, introduisent un comportement non déterministe qui peut rendre le dépannage plus difficile.
Cela signifie que l’observabilité ne peut plus se concentrer uniquement sur la disponibilité d’une application ou sur le fonctionnement de l’infrastructure dans les limites attendues. Les équipes doivent également comprendre si un système d’IA a produit la réponse attendue et si la qualité de cette réponse a répondu aux attentes.
« Évaluer ne consiste plus simplement à savoir si c'est bien ou mal », a déclaré Dhinakaran. « Il s’agit réellement de mesurer la qualité des réponses, ce qui constitue simplement un problème très fondamentalement différent. »
Arize a construit sa plateforme autour de ce défi, en fournissant des outils pour tracer, évaluer et améliorer les applications et les agents d'IA. Sa plateforme open source Phoenix est utilisée par plus de 4 000 entreprises, selon Dhinakaran, tandis qu'Arize AX fournit un environnement géré conçu pour les équipes exploitant des systèmes d'IA à l'échelle de la production.
Pour Dynatrace, ces capacités étendent l'observabilité à une couche d'application qui devient de plus en plus importante à mesure que les entreprises font passer leurs projets d'IA de l'expérimentation à la production.
L'observabilité apporte un contexte partagé à travers l'IA et la télémétrie des applications
Les applications d’IA fonctionnent rarement de manière indépendante. Les agents appellent des interfaces de programmation d'applications, interagissent avec des bases de données, dépendent de l'infrastructure cloud et se connectent à des systèmes d'entreprise plus larges. Cela crée un défi de dépannage lorsque le comportement de l’IA étudié n’est qu’une partie d’une pile logicielle beaucoup plus vaste.
Dhinakaran a déclaré que les clients d'Arize souhaitaient de plus en plus de connexions plus solides entre la télémétrie de l'IA et la télémétrie traditionnelle des applications et de la production. Les clients de Dynatrace, quant à eux, réclamaient des capacités d’observabilité et d’évaluation plus approfondies de l’IA. La réunion de ces deux environnements pourrait donner aux développeurs, aux ingénieurs en fiabilité des sites, aux équipes de plateforme, aux ingénieurs en IA et aux data scientists une vision commune de ce qui se passe dans la pile d'applications.
« Les systèmes d'agents et les systèmes logiciels sont reliés à la hanche », a déclaré Dhinakaran. « Avoir cette capacité non seulement à déboguer les agents avec l'observabilité de l'IA, mais également à disposer de tout le contexte du logiciel qu'ils utilisent pour appeler les outils ou l'infrastructure sous-jacente derrière les agents… nous permet simplement de créer de meilleurs produits. »
Ce contexte partagé pourrait également aider à résoudre un autre problème persistant d’observabilité : la prolifération des outils.
Selon une étude citée par Nashawaty lors de la conversation, 75 % des organisations utilisent entre six et 15 outils d'observabilité. À mesure que les entreprises ajoutent des systèmes de surveillance, d’évaluation et de gouvernance de l’IA, le risque est que l’IA crée une autre couche opérationnelle isolée plutôt que de réduire cette complexité.
Tack a fait valoir que la combinaison de l'observabilité des applications et de l'IA donne aux organisations une vue plus complète au niveau du système plutôt que de forcer les équipes à rassembler des informations sur des plates-formes déconnectées.
« La vraie perte se produit souvent (quand) ils perdent la capacité d’avoir une mentalité systémique », a-t-il déclaré. « Comment pouvons-nous rassembler une vision plus large ? Comment pouvons-nous avoir un contexte partagé ? Comment pouvons-nous agir ? »
Des tableaux de bord à l’action opérationnelle
Le changement le plus important concerne peut-être moins ce que les plateformes d’observabilité surveillent et davantage celui de qui – ou quoi – consomme les informations.
Pendant des années, l'observabilité a été largement conçue autour des ingénieurs examinant les tableaux de bord, répondant aux alertes et dépannant manuellement les incidents. Les agents IA créent la possibilité d'un modèle opérationnel différent dans lequel la télémétrie devient un contexte que les agents logiciels eux-mêmes peuvent consommer.
« L'observabilité ne consiste plus pour les humains à consulter des tableaux de bord, des mesures et des journaux », a déclaré Dhinakaran. « Il s'agit d'action. »
Cela change la valeur des données d’observabilité. Au lieu de simplement expliquer ce qui s’est passé, la télémétrie pourrait faire partie du raisonnement utilisé par les agents pour identifier les problèmes, recommander des modifications ou lancer des mesures correctives.
Ce changement soulève également les enjeux en matière d’exactitude et de contexte. Les opérations autonomes ne fonctionnent que si les organisations font confiance aux informations qui alimentent ces décisions.
Tack a déclaré que la capacité à fournir des analyses précises et des réponses fiables sera essentielle à mesure que les entreprises confieront de plus grandes responsabilités aux agents.
« Comment pouvons-nous les aider à agir, les aider à avancer plus rapidement, cela crée autant d'opportunités », a-t-il déclaré.
Dynatrace a déjà évolué dans cette direction grâce à sa stratégie plus large d'IA et d'automatisation, notamment Dynatrace Intelligence et son offre BlueBox AI pour le développement agent et les workflows SRE. Arize ajoute une évaluation et une observabilité plus approfondies autour des systèmes d'IA participant à ces flux de travail.
L'IA change le fonctionnement des équipes logicielles
L'acquisition reflète également un changement plus large dans le développement logiciel lui-même. Les agents d’IA sont de plus en plus utilisés non seulement dans les applications, mais aussi pour créer, tester, dépanner et exploiter ces applications. Tack a décrit un avenir dans lequel les architectes pourraient passer moins de temps à travailler directement dans des environnements de développement et plus de temps à coordonner des groupes d'agents spécialisés.
Cela fait de l’observabilité une partie de la boucle de rétroaction entre le développement autonome et les opérations de production.
« Le marché ne se contente pas d'ajouter une autre technologie », a déclaré Tack. « Ils changent la façon dont ils veulent que les humains travaillent. Où l'agent intervient-il ? »
Pour les entreprises, cela pourrait à terme rapprocher l’observabilité d’une couche d’intelligence opérationnelle qui couvre le développement d’applications, l’évaluation de l’IA, l’infrastructure et la correction automatisée.
Le défi consistera à garantir que l’automatisation progresse parallèlement à la gouvernance, à la fiabilité et à la confiance dont les entreprises ont besoin avant de confier des décisions opérationnelles significatives aux agents.
L'essentiel
L'acquisition d'Arize AI par Dynatrace reflète deux changements simultanés : les applications d'entreprise deviennent moins déterministes et l'observabilité devient plus orientée vers l'action.
Les applications d’IA nécessitent de nouvelles façons d’évaluer le comportement et la qualité, tandis que les agents d’IA ont de plus en plus besoin d’un contexte applicatif et infrastructurel pour prendre des décisions opérationnelles utiles. Le regroupement de ces environnements de télémétrie donne à Dynatrace l'opportunité d'aller au-delà de la surveillance traditionnelle des applications vers un modèle plus large construit autour d'un contexte, d'une évaluation et d'une automatisation partagés.
Pour les développeurs et les équipes chargées des plateformes, l’implication la plus importante est que l’observabilité pourrait de plus en plus devenir une infrastructure consommable par les machines. Les tableaux de bord ne disparaîtront pas, mais la prochaine génération de plateformes d’observabilité devra servir à la fois les ingénieurs qui diagnostiquent les systèmes et les agents qui les aident de plus en plus à les exploiter.
Comme le dit Dhinakaran : « Chaque entreprise va devenir une entreprise d’IA » et les outils permettant de comprendre et d’améliorer ces agents deviendront « un élément essentiel de chaque pile ».
Voici la conversation complète avec Paul Nashawaty de CUBE Research, Steve Tack de Dynatrace et Aparna Dhinakaran d'Arize AI, dans le cadre de la série de podcasts AppDevANGLE :
