La gouvernance de l'IA d'entreprise devient de plus en plus importante à mesure que les organisations se précipitent vers le retour sur investissement, exigeant des systèmes d'IA évolutifs, prévisibles et conçus pour fournir des résultats commerciaux mesurables.
Alors que des recherches estiment que les deux tiers des projets pilotes d'IA stagnent avant d'atteindre l'échelle de production, la plupart des organisations ne sont clairement pas seulement en retard en matière d'IA : elles sont bloquées sur la ligne de départ. Pourtant, même si différentes entreprises adoptent des approches différentes en matière d'IA, l'interopérabilité et la gouvernance sont devenues des pierres angulaires évidentes, selon Murali Swaminathan (photo), directeur de la technologie de Freshworks Inc.
« De nombreux changements se sont produits dans le monde de l'IA. Il y a une telle prolifération d'outils natifs d'IA (et) de produits tiers. Tout le monde fait de l'IA d'une manière différente », a déclaré Swaminathan. « Il n'y a pas de solution unique : tout doit être connecté. Nous devons interagir avec d'autres systèmes d'IA, et c'est la leçon à retenir ici. »
Swaminathan s'est entretenu avec Bob Laliberte de theCUBE lors de l'événement Freshworks Refresh, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la gouvernance de l'IA d'entreprise ainsi que du passage des flux de travail assistés par l'homme à des opérations plus autonomes basées sur l'IA. (* Divulgation ci-dessous.)
L’importance de la gouvernance de l’IA d’entreprise
Parallèlement à l'interopérabilité, la confiance est devenue une condition fondamentale pour toute adoption réussie de l'IA, d'autant plus que les organisations commencent à déléguer davantage de travail aux systèmes automatisés. Pour renforcer la confiance dans les résultats de l'IA, les entreprises ont besoin de visibilité et d'assurance que la technologie fonctionne comme prévu, selon Swaminathan.
« (Vous avez besoin) de confiance dans la façon dont vous configurez l'IA, comment vous configurez les contrôles, comment elle fonctionne, comment vous pouvez suivre ce qui se passe et comment nous pouvons rendre compte de ce qu'elle a fait et de ce qu'elle n'a pas fait », a déclaré Swaminathan. « La confiance existe à plusieurs niveaux, et c'est ce que nous croyons en créant le produit ou en vous fournissant les outils nécessaires pour le configurer correctement. »
La confiance dans l'IA nécessite une gouvernance à plusieurs niveaux, et Freshworks l'approche à travers des contrôles construits à chaque niveau de la pile – des garde-fous LLM qui définissent ce qui est autorisé aux limites au niveau des agents qui maintiennent les systèmes automatisés concentrés sur leurs tâches prévues, a expliqué Swaminathan. Les politiques d’anonymisation et de souveraineté des données ajoutent des garde-fous supplémentaires, garantissant que les informations personnelles sont protégées et que les données restent dans les régions désignées. Les organisations se concentrent de plus en plus sur ce type de protection pour garantir que les systèmes d'IA fonctionnent en toute sécurité, d'une manière qui semble invisible pour l'utilisateur et indispensable pour l'administrateur.
« Nous nous concentrons sur la souveraineté des données : nous veillons à ce que les données restent dans la zone et ne sortent pas », a-t-il déclaré. « En ce qui concerne l'utilisateur, cela n'a pas d'importance pour lui, mais en coulisses, les personnes qui le gouvernent doivent savoir que cela fonctionne correctement. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE de l'événement Freshworks Refresh :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Freshworks Refresh. Ni Freshworks, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
