Les agents d’intelligence artificielle sont devenus un enjeu majeur dans les logiciels d’entreprise, mais en matière de reporting financier, d’audit et de conformité, la rapidité compte peu si le résultat ne peut être défendu. Cet écart entre capable et correct est ce qui distingue les plateformes axées sur la gouvernance, telles que Workiva Inc., de la ruée plus large des agents, car quelqu'un finit par signer son nom sur le travail.
L'entreprise a profité de sa conférence d'utilisateurs Amplify pour placer les contrôles, le traçage des données et l'approbation humaine au centre de sa feuille de route produit. Des données fiables et des résultats traçables sont les conditions préalables pour placer les agents à proximité d'un dossier réglementaire, selon Deepak Bharadwaj (photo), vice-président exécutif et directeur des produits de Workiva.
« Il s'agit vraiment du profil de risque de nos acheteurs et utilisateurs », a déclaré Bharadwaj. « Et en raison des personnes que nous servons dans les domaines de l'information financière, de la GRC et du développement durable, ce qu'ils veulent, c'est que le travail qu'ils accomplissent soit digne de confiance, car en fin de compte, dans bon nombre de ces cas, quelqu'un y signe son nom.
Bharadwaj s'est entretenu avec Krista Case de theCUBE, analyste principale et responsable de la cyber-résilience et de la sécurité, et co-animatrice Alison Kosik chez Amplify, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. (* Divulgation ci-dessous.)
Workiva superpose les garde-fous, le contexte et le jugement humain
L’approche associe des garde-fous, des instructions en langage clair et une vérification humaine aux données déjà certifiées par la plate-forme, en s’appuyant sur les agents spécialisés et la couche de renseignement lancée par l’entreprise en juillet. Lorsqu'un agent peut fonctionner sans supervision, cela dépend de la répétabilité et de la base de règles de la tâche, a expliqué Bharadwaj.
« Mais si vous avez des tâches qui nécessitent un jugement commercial, ou si quelqu'un doit les examiner, les approuver et les signer, c'est là que les humains doivent intervenir et s'assurer que ce que l'IA produit est correct », a-t-il déclaré. « Et, souvent, c'est là que plusieurs personnes se disputent sur un mot contenu dans cette divulgation. »
Agent Studio, annoncé lors de l'événement couvert par theCUBE cette semaine, étend ce modèle aux clients, permettant aux utilisateurs professionnels de décrire un processus au lieu d'écrire des scripts Python sur des interfaces de programmation d'applications. Tout ce que font les agents au sein de Workiva est limité par un ensemble défini de capacités et lié à une personne, a noté Bharadwaj.
« L’IA ne fait jamais les choses toute seule », a-t-il déclaré. « Il fait des choses au nom de celui qui le supervise. Et, en fin de compte, quelqu'un sera responsable. J'aime dire : 'Vous ne pouvez pas envoyer un agent en prison.' »
Voici l'interview vidéo complète, faisant partie de la couverture d'Amplify par SiliconANGLE et theCUBE :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Amplify. Ni Workiva, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
