Action State Group Inc. lance un ensemble d'outils open source conçus pour permettre aux entreprises de vérifier de manière indépendante les enregistrements de ce que les agents d'intelligence artificielle ont fait, résolvant ainsi un problème de confiance alors que les systèmes automatisés commencent à acheter, vendre et déléguer du travail au-delà des frontières de l'entreprise.
L'offre combine EvidenceBook, qui préserve les enregistrements inviolables, des Terms Packs pour évaluer le comportement des agents et Countersign, un service de vérification indépendant. L'approche cible les transactions dans lesquelles une entreprise ne peut pas se fier uniquement au récit d'une autre partie sur les actions d'un agent.
La différence fondamentale entre l'approche de la start-up et celle des fournisseurs d'observabilité « est que l'essentiel de l'observabilité et du traçage concerne ce qui se passe dans vos propres murs », a déclaré Steven Mih, fondateur et directeur général d'Action State. Mih était auparavant fondateur d'Ahana Cloud Inc., le développeur d'une version gérée du moteur de requête distribué open source Presto. IBM Corp. a acquis Ahana en 2023.
EvidenceBook donne aux participants leurs propres historiques de transactions signés. Un acheteur peut enregistrer ce qu'il a demandé et payé, tandis qu'un fournisseur enregistre ce qu'il a accepté et déclaré avoir livré. La comparaison des enregistrements sélectionnés peut révéler des accords, des conflits ou des lacunes sans qu'il soit nécessaire qu'une autorité centrale détienne les données de chacun.
Les participants conservent le contrôle de leurs informations et peuvent divulguer des détails supplémentaires lors de l'évaluation des résultats.
Les deux parties n'ont pas besoin d'installer le logiciel pour en bénéficier, bien que des implémentations compatibles leur permettent d'échanger des preuves. La vérification peut avoir lieu hors ligne et est gratuite.
Le système utilise Agent Action Capsules, un format ouvert pour les enregistrements signés, et des points de contrôle cryptographiques qui rendent les modifications ultérieures détectables. Un témoin public gratuit établit qu'un point de contrôle existait à un moment donné.
Conserver un enregistrement ne garantit pas que son contenu est exact ou que chaque action a été enregistrée, a déclaré Mih. EvidenceBook vérifie que les événements signalés se sont réellement produits, mais ne peut pas vérifier qu'un accord a été respecté.
Cette limitation s’applique à Countersign. Le service vérifie les propriétés cryptographiques et structurelles spécifiées d'un ensemble de preuves, signe ses conclusions et les enregistre dans son propre journal de transparence. Il ne certifie pas que les résultats allégués se sont produits ni que les preuves sont complètes.
Les packs de conditions indiquent si le travail enregistré répond aux exigences spécifiées conformément aux règles réglementaires ou commerciales. Les packs définissent des critères et des méthodes d'évaluation, avec des résultats identifiant les exigences qui ont été satisfaites, manquées ou n'ont pas pu être évaluées.
Un premier pack couvre les obligations liées aux agents en vertu de la loi sur l'IA de l'Union européenne. Action State recommande aux équipes de gouvernance, de risque et de conformité de personnaliser les packs pour refléter leurs exigences. Les packs ne certifient pas la conformité légale.
L’examen humain est essentiel au processus. Mih a décrit un flux de travail dans lequel les juges de l'IA évaluent quotidiennement les dossiers des agents, les employés examinant périodiquement des échantillons pour comparer les jugements humains et automatisés. Le système préserve également les résultats de l'évaluation, permettant aux auditeurs d'examiner les preuves sous-jacentes.
Les premières intégrations incluent Mesh-LLM, un réseau d'inférence distribué open source dans lequel les nœuds participants conservent des enregistrements signés et peuvent comparer les échanges avec leurs pairs. Cette approche pourrait aider les participants à repérer les changements apportés aux déclarations enregistrées d'une contrepartie concernant les modèles ou les configurations.
Le projet Nanda, une initiative open source visant à créer une infrastructure et des protocoles pour les agents IA, a également utilisé Agent Action Capsules dans des transactions entre agents découvertes via des registres distincts. Chaque partie a conservé un dossier bilatéral scellé. Pour les agents personnels, les règles quotidiennes d'Action State s'intègrent à Muse pour évaluer les actions proposées par rapport aux exigences d'un propriétaire.
EvidenceBook est disponible sous la licence Apache 2.0. Ses spécifications sous-jacentes s'appuient sur les normes publiées par l'Internet Engineering Task Force, mais les propres spécifications d'Action State restent des projets Internet individuels.
« Ce n'est pas encore une norme RFC ni adopté par un groupe de travail », a déclaré Mih, faisant référence à la procédure de demande de commentaires de l'IETF.
Action State prévoit de rechercher une gouvernance de fondation neutre pour les spécifications et les mises en œuvre. La société espère tirer des revenus de services de vérification indépendants.
« Le contresignature est actuellement gratuit », a déclaré Mih. « Cependant, une fois qu'une partie utilisatrice aura accepté les contresignes, nous commencerons à facturer cela. »
