Speakeasy Development Inc. a présenté aujourd'hui un service de gestion des coûts de l'intelligence artificielle destiné à donner aux entreprises une vue consolidée des dépenses liées aux agents de codage et autres outils d'IA.
Le service AI Cost Control de la startup collecte des données d'utilisation à partir d'outils tels que Claude Code d'Anthropic PBC, Cursor d'Anysphere Inc., Claude Cowork et Codex d'OpenAI LLC. Il enregistre les jetons consommés, le modèle utilisé, l'activité du cache et le coût estimé des interactions individuelles, puis regroupe les informations par employé, équipe, outil et type de compte.
Le service fait partie du plan de contrôle de l'IA de Speakeasy, qui se situe entre les employés et les outils d'IA qu'ils utilisent. Speakeasy a déclaré qu'il résout un problème croissant de gestion financière alors que les entreprises adoptent plusieurs services d'IA, chacun avec ses propres mesures d'utilisation, pratiques de facturation et interface administrative.
« Le problème des entreprises est que les chiffres des fournisseurs de modèles vivent en silos », a déclaré le directeur général Sagar Batchu. « Anthropic peut vous dire combien votre clé Anthropic a dépensé, mais il ne peut pas fournir une vue unifiée entre les modèles et outils concurrents. »
Cette fragmentation est compliquée par le recours des salariés à des abonnements personnels pour le travail de l'entreprise. Les rapports d'entreprise ne capturent généralement que les comptes gérés de manière centralisée, ce qui peut laisser les organisations dans l'ignorance des activités menées dans le cadre de forfaits achetés individuellement.
Speakeasy déploie un agent logiciel sur les appareils de travail des employés pour collecter la télémétrie des sessions d'IA. Il associe l'activité à l'identité professionnelle d'un employé même lorsque le service AI est accessible via un compte personnel. L'entreprise a déclaré qu'elle ne se connectait pas aux comptes personnels des employés et ne collectait pas les activités menées sur leurs appareils personnels.
« Nous observons l'activité de l'IA en temps réel sur la machine de travail inscrite, et non sur le compte personnel lui-même », a déclaré Batchu. « Nous ne touchons jamais à l'historique du compte depuis leurs appareils personnels. »
Données protégées
Bien que la collecte de données de session, y compris les transcriptions, puisse soulever des questions en matière de confidentialité et de sécurité, Batchu l'a décrit comme une forme d'observabilité de la main-d'œuvre et a déclaré que Speakeasy avait des accords régissant la manière dont les données des clients sont stockées et utilisées. La société propose également une résidence de données dédiée à certaines entreprises et des déploiements dans les cloud privés virtuels des clients.
La collecte de données suit les conventions sémantiques OpenTelemetry pour l'IA générative, qui fournissent un format commun pour des informations telles que le nombre de jetons, les modèles, les coûts et les métadonnées des appels d'outils. Speakeasy normalise ces enregistrements pour produire une vue cohérente entre les fournisseurs.
AI Cost Control fournit actuellement des estimations de coûts par tour, une consolidation entre agents et des répartitions par facteurs tels que l'employé, l'équipe, le modèle, la session et la source. Les clients peuvent explorer des sessions individuelles pour identifier les outils, les compétences et les serveurs Model Context Protocol responsables de la consommation.
Speakeasy différencie le service des passerelles d'IA et des produits d'observabilité fonctionnellement similaires en se concentrant sur les clients d'IA exploités par les employés. Batchu a déclaré que les passerelles peuvent suivre les demandes qui les transitent, mais qu'une grande partie de l'utilisation de l'IA dans une organisation se fait via des applications de bureau et des services d'abonnement qui contournent ces systèmes.
« Les plateformes d'observabilité instrumentent les appels de modèle de votre propre application », a-t-il déclaré. « Ils répondent : « Que dépense mon produit ? » pas « Que dépensent mes employés ? »
L'entreprise prévoit d'ajouter des budgets exécutoires pour les équipes et les employés individuels. Cela donnera aux clients des notifications et nécessitera une approbation pour les cas d'utilisation continue élevée ou limitera l'activité acheminée via la passerelle de Speakeasy lorsqu'un seuil est atteint.
D'autres fonctionnalités prévues incluent la catégorisation automatisée des dépenses par tâches telles que la révision du code, la recherche et le tri des tickets, ainsi qu'une mesure séparée des jetons consommés lorsqu'un agent charge les invites du système, les compétences et les serveurs MCP. Speakeasy a également l'intention de concilier les coûts d'abonnement forfaitaires avec les frais d'interface de programmation d'applications facturés au compteur.
Le système ne capture actuellement pas le travail effectué sur des appareils personnels non gérés ou les fonctionnalités d'IA intégrées dans les applications Software-as-a-Service. Speakeasy a déclaré que la couverture des services d'IA intégrés figurait sur sa feuille de route.
