La gouvernance de l’IA doit désormais tenir compte des systèmes qui effectuent le travail plutôt que de simplement assister les employés.
Ce changement est particulièrement pertinent pour Workiva Inc., qui opère dans les workflows de reporting, d'audit et de conformité où les erreurs entraînent de graves conséquences. À mesure que les entreprises introduisent des agents d’IA dans la finance et dans d’autres fonctions réglementées, les résultats plausibles ne suffisent plus. Les entreprises doivent être capables de retracer les informations, d'identifier les approbations et de reconstituer les actions qu'un agent a entreprises en leur nom, selon Krista Case (photo, à gauche), analyste principale chez theCUBE Research.
« Nous devons comprendre des choses comme d'où viennent ces informations et d'où viennent ces informations, qui a approuvé une action particulière, et pouvez-vous peut-être retracer ce qui s'est passé si un agent d'IA prend une action en votre nom », a déclaré Case. « Quand on pense à la finance et à ces autres processus réglementés, il ne suffit pas que l'action ou la réponse paraisse plausible. Nous devons vraiment nous assurer qu'elles peuvent être justifiées. »
Case s'est entretenu avec son collègue Alison Kosik (à droite) lors de l'événement Amplify de Workiva, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la manière dont les entreprises peuvent laisser l’IA effectuer un travail conséquent sans perdre la confiance, la responsabilité ou le contrôle. (* Divulgation ci-dessous.)
La gouvernance de l'IA commence par des données fiables
L’IA peut traiter les informations plus rapidement et sur davantage de flux de travail, mais cette portée amplifie également les faiblesses des données sous-jacentes. Des systèmes fragmentés, des définitions incohérentes et une propriété floue existaient bien avant l’IA générative. Les agents rendent ces problèmes plus urgents car ils peuvent transformer des informations erronées en décisions plus rapidement et à plus grande échelle, a expliqué Case.
«Je pense qu'il est communément admis que la qualité de notre IA dépend des données sur lesquelles elle repose», a-t-elle déclaré. « Ce dont nous avons parlé plus spécifiquement ici chez Workiva Amplify, c'est du fait que si nous avons des magasins de données fragmentés, si nous avons des définitions incohérentes et une propriété incohérente des données, ce ne sont pas nécessairement de nouveaux problèmes créés par l'adoption de l'IA par l'entreprise. Ce sont des problèmes qui existaient auparavant. »
Le prochain défi consiste à déterminer quand un agent peut agir de manière indépendante et quand une personne doit approuver son travail. Exiger un examen humain pour chaque action peut effacer une grande partie de l’efficacité promise par l’automatisation. Cela oblige les entreprises à avoir besoin de contrôles axés sur le risque, la surveillance et la gestion des exceptions devenant de plus en plus importantes à mesure que les cas d'utilisation de l'IA se développent, a noté Case.
« Ce qui est intéressant, c'est que si l'on revient à la conversation sur la vitesse, si un être humain doit examiner et approuver chaque action, alors tout l'intérêt, ou une grande partie de la valeur, est sans objet », a-t-elle déclaré. « Nous devons en quelque sorte prendre des décisions quant au moment où l'IA aide un être humain, quand peut-elle s'exécuter seule, quand a-t-elle besoin d'une approbation ? Je pense que certaines de ces limites sont encore en cours de définition, et je pense qu'elles vont évoluer et changer au fil du temps, en particulier à mesure que les cas d'utilisation métier évoluent. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE de l'événement Amplify de Workiva :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Amplify de Workiva. Les sponsors de la couverture de l'événement theCUBE n'ont pas de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
