La gouvernance de l’IA devient essentielle à mesure que l’automatisation s’étend aux rapports financiers.
Les dirigeants sont confrontés à des pressions pour adopter l’IA plus rapidement, mais de nombreuses organisations ne disposent pas de la qualité des données et des contrôles nécessaires pour faire confiance à ses résultats. Workiva Inc. comble cette lacune en appliquant des garanties de reporting établies aux processus assistés par l'IA, mais ses recherches suggèrent que la confiance des entreprises a déjà dépassé la préparation opérationnelle, selon Steve Soter (photo), vice-président et directeur de l'industrie chez Workiva.
« Ce qui m'a le plus marqué, c'est une statistique qui m'a vraiment surpris », a-t-il déclaré. « 84 % des dirigeants ont déclaré qu'ils étaient au moins quelque peu disposés à faire confiance à l'IA pour générer un rapport annuel sans examen humain. »
Soter s'est entretenu avec Krista Case et Alison Kosik lors de l'événement Amplify de Workiva, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté des contrôles dont les entreprises ont besoin pour utiliser l’IA en toute sécurité dans leurs rapports financiers. (* Divulgation ci-dessous.)
La gouvernance de l’IA doit prendre en charge des résultats traçables
Le risque ne se limite pas à un numéro ou une déclaration incorrecte. Si les entreprises ne peuvent pas retracer l’origine des informations ni démontrer comment elles ont été examinées, l’IA peut transformer une erreur isolée en un échec de contrôle plus large. Les contrôles financiers existants restent donc pertinents même lorsque les machines effectuent une plus grande partie du travail, a expliqué Soter.
« Pour moi, je pense que c'est peut-être une saveur différente du même risque », a-t-il déclaré. « Quand j'y pense, à l'époque où j'étais responsable du traitement, il était vraiment important pour moi de savoir d'où venaient les données, qui les a touchées, ce qui leur est arrivé, comment ont-elles été examinées et approuvées ?
L’IA peut accélérer les processus de reporting établis, mais la vitesse n’apporte que peu de valeur lorsque le flux de travail sous-jacent n’est pas fiable. Les équipes financières ont toujours besoin de données gouvernées et d'approbations documentées. Autrement, l’automatisation peut répartir une erreur plus rapidement et rendre la source du problème plus difficile à reconstruire, a souligné Soter.
« Pour moi, l'IA ne change rien à cela », a-t-il déclaré. « Cela rend cela encore plus important car accélérer un processus, si vous ne le fondez pas sur les éléments dont nous avons discuté, ces quatre éléments, alors la vitesse ne devient pas un atout. Elle devient vraiment un handicap. Elle devient un risque. »
La responsabilité humaine reste en place
La surveillance humaine devient particulièrement importante lorsque l’IA touche des informations destinées aux conseils d’administration ou à des publics externes. Un outil automatisé peut générer le matériel, mais la responsabilité incombe au dirigeant qui l'approuve. Cela fait de l'examen un élément essentiel du processus de reporting plutôt qu'une précaution temporaire pendant que la technologie évolue, a souligné Soter.
« Ce n'est pas un outil d'IA qui approuve les états financiers ; c'est un humain qui le fait », a-t-il déclaré. « Si cet humain l'approuve, mais croit pourtant que l'IA a fait tout ce qu'elle était censée faire et l'a fait correctement, encore une fois, si ce n'est pas le cas, cela pourrait représenter un gros risque. »
La qualité des données présente un autre obstacle. L'étude de Workiva a révélé que seulement 11 % des dirigeants considéraient leurs données suffisantes pour l'utilisation de l'IA, ce qui suggère que de nombreuses organisations automatisent leurs processus avant de réparer leurs bases d'informations. L’IA peut contribuer à améliorer ces données, mais des données peu fiables continueront à produire des résultats douteux, a noté Soter.
« On se demande à quel point les données étaient mauvaises avant même que nous ayons cette conversation sur l'IA ? » il a demandé. « Pour moi, cela ne fait que souligner, honnêtement, l'opportunité de l'IA, car je pense que l'IA a en fait un rôle à jouer pour potentiellement aider à nettoyer cela, comme peut-être en augmentant ces 11 %, mais l'IA n'est aussi bonne que les données qu'elle utilise. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE de l'événement Amplify de Workiva :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Amplify de Workiva. Ni Workiva, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
