Depuis plusieurs années, le débat sur l’intelligence artificielle d’entreprise s’est concentré sur la capacité : quel modèle est le plus intelligent et quel GPU est le plus rapide. Cela avait du sens lorsque la technologie constituait une contrainte.
Ce n'est plus le cas. L’IA peut désormais faire bien plus que ce que la plupart des organisations permettent, et le problème réside dans la confiance.
C'est la principale conclusion de «Permission d'évoluer : le rôle essentiel de la confiance dans l'adoption réussie de l'IA », nouvelle recherche publiée aujourd'hui chez Cisco Systems Inc. Cisco Live APJC à Melbourne. Rédigée par le chercheur indépendant Brad Howarth, l'étude s'appuie sur les données de 25 organisations australiennes.
Lors du Cisco Live APJC, Cisco a organisé un panel de presse pour discuter du rapport. Le panel, modéré par Howarth, comprenait un certain nombre de dirigeants d'entreprises ayant participé au rapport, notamment Carl Solder, directeur de la technologie de Cisco ANZ (à l'extrême gauche) ; Anna Tosky, directrice des ressources humaines chez Logiciel Elmo (deuxième en partant de la gauche) ; Chris Locke, directeur technique chez Groupe de voyage Flight Centre (troisième en partant de la gauche) ; Naz Wilson, responsable de la culture de groupe et de l'habilitation chez Funlab (troisième en partant de la droite) ; et Lucio Ribeiro, directeur de l'IA chez TBWA Australie (deuxième à partir de la droite).
Bien qu'un échantillon de 25 personnes soit petit, les résultats correspondent aux conversations que j'ai eues avec les dirigeants d'entreprise. J'ai apprécié le mélange de technologies, de ressources humaines et de leadership culturel du panel. J'ai également apprécié la mixité des rôles, car le plus grand obstacle au développement de l'IA n'est pas technique mais lié aux personnes.
L'Australie est un public difficile
L’Australie constitue un cas test intéressant. Selon Université de Melbourne et KPMG Selon une étude citée dans le rapport, la moitié des Australiens utilisent régulièrement l'IA, mais seulement 36 % lui font confiance et 30 % seulement pensent que ses avantages l'emportent sur ses risques. C'est le plus bas parmi les 47 pays étudiés. Si vous parvenez à renforcer la confiance dans l’IA en Australie, ce travail s’étendra à l’échelle mondiale. Dans le communiqué de presse, Stefan Leitl, vice-président et directeur général de Cisco Australie et Nouvelle-Zélande, a évoqué les avantages de conquérir cette région : « C'est un manuel qui va bien au-delà de l'Australie. »
Le pilier de la culture est celui que tout le monde ignore
Solder a noté que parmi les six piliers de Indice de préparation à l'IA de Ciscoles directeurs de l'information et les directeurs techniques se tournent vers ce qu'ils connaissent, à savoir l'infrastructure et les données, et laissent la culture aux autres. Il a décrit un client qui a investi dans l'infrastructure, la gouvernance, les données et les compétences en technologies de l'information, mais « ne s'est pas concentré sur la culture. Et ils ont constaté que leurs employés et leurs clients étaient très réticents à utiliser les outils dans lesquels ils avaient investi ».
C'est quelque chose que j'ai constaté à plusieurs reprises : les entreprises dépensent des millions en plates-formes d'IA pour constater que leur utilisation reste tiède. Howarth a discuté d'un « volant » d'adoption dans lequel une utilisation réussie crée des preuves, les preuves renforcent la confiance et la confiance permet une utilisation plus large. Les entreprises attendent la confiance avant de se déployer, et la preuve de confiance doit être quelque chose de mesurable.
La confiance dans l’IA doit être établie avec des paramètres réalistes. De nombreuses personnes rejettent l’IA après une seule erreur, même si dans la plupart des cas, le taux d’erreur est bien inférieur à celui des humains. Cela reflète ce qu’a vécu l’industrie automobile lorsqu’un accident de Tesla a déclenché une tempête médiatique. La réalité est que le système de pilote automatique de Tesla subit un accident tous les 7 millions de miles environ, par rapport aux conducteurs humains, qui en moyenne environ un accident tous les 1 million de miles.
La perfection n'est pas un objectif réaliste, mais être plus rapide et plus précis que les autres l'est. Les utilisateurs doivent comprendre cela lors de tout type d’essai ou de preuve de concept, car l’attente de perfection peut éroder la confiance.
Le leadership doit passer en premier
Chris Locke a offert un excellent exemple de cadre dirigeant par l'exemple. Le fondateur de l'entreprise, Graham « Skroo » Turner, âgé de 77 ans, utilise l'IA quotidiennement. « C'est un grand utilisateur d'Anthropic Claude », a déclaré Locke. « C'est aussi un gars qui a dit un jour qu'Internet ne prendrait pas de l'ampleur en 2000. Il s'est peut-être trompé, mais il parie sur l'IA qui prendra de l'ampleur, alors je pense qu'il nous donne la permission de jouer. »
Ribeiro a présenté une approche plus structurée, décrivant la confiance comme une équation fondée sur quatre éléments : l'appropriation, la compétence, la cohérence et la transparence. Il explique sans détour pourquoi demander à un personnel nerveux s'il veut de l'IA ne donne pas de réponse précise. « Vous ne demandez jamais à un coiffeur si vous avez besoin d'une coupe de cheveux, car la réponse est toujours oui. »
Son alternative était l’honnêteté. Les entreprises ne peuvent pas promettre de protéger tous les emplois, mais elles peuvent promettre de faire de leurs employés « la personne la mieux préparée, la plus formée et la plus fiable » si l’IA perturbe leur rôle.
Funlab, où 79 % des effectifs ont 21 ans ou moins, s'appuie sur l'apprentissage entre pairs. Son « AI Super Squad » réunit des représentants de chaque département toutes les quatre semaines. Wilson a déclaré que les premières séances avaient simplement permis de clarifier quels outils étaient sûrs, car la véritable limitation de nombreux employés était « tout simplement de ne pas savoir si j'étais autorisé à faire certaines choses ou non ».
La confiance calibrée est le bon objectif, mais mesurez-la
Le concept central du rapport est la confiance calibrée. Les gens doivent savoir quand s’appuyer sur l’IA, quand vérifier ses résultats et quand un humain doit décider. Faire aveuglément confiance à ces systèmes et à leurs résultats constitue un risque important.
Au cours de la séance de questions-réponses, j'ai demandé comment les entreprises se protégeaient contre une confiance excessive, en particulier dans les emplois à haute intensité où les gens acceptent simplement la réponse et passent à autre chose. Tosky était franc. « La saloperie de l'IA. C'est réel », a-t-elle déclaré. « Vous posez une question à l'employé, vous sollicitez le système d'IA, puis il envoie un rapport sans le regarder, et c'est complètement faux. Cela fait maintenant 10 pages qu'il vous faut lire. »
Elmo tient un humain au courant de presque tout, et elle a fait valoir que la solution commence par une refonte du travail. « C'est très peu sexy, mais commencez par le processus lui-même, au lieu de simplement dire : 'OK, envoyons un groupe d'agents dessus.' »
Le rapport recommande aux responsables informatiques d'adopter une pratique spécifique : cesser de traiter les connexions comme un proxy de confiance et suivre la fréquence à laquelle les gens contestent ou remplacent les résultats de l'IA. L'utilisation montre que les gens cliquent. Les taux de dérogation montrent qu'ils réfléchissent.
J'ai également soulevé une préoccupation concernant le centre de contact. L’IA automatise les tâches banales qui servaient de pauses cognitives aux agents, les laissant avec un travail continu et de haute intensité et un taux de désabonnement plus élevé. Tosky l'a qualifié de « friture de cerveau de l'IA » et a suggéré de repenser les mesures et les pauses. Wilson a ajouté que si l’IA absorbe le travail de routine, les employés perdent la répétition qui crée le contexte et l’expertise. Il s’agit d’un problème de réserve de talents que peu d’entreprises envisagent.
Les agents font monter les enchères
L’IA qui rédige du contenu est une chose ; les agents qui agissent en sont une autre. Locke a déclaré que Flight Center dispose désormais d'agents qui s'occupent d'un petit sous-ensemble de billets d'avion qui étaient auparavant externalisés à l'étranger, avec une sécurité assurée dès le premier jour. Il a utilisé l'IA pour réserver son Uber à l'événement, mais un vol aller-retour vers l'Europe ? « Pas encore. »
Moins de la moitié des personnes interrogées sont très ou extrêmement convaincues que leurs fondations sont prêtes pour une IA plus autonome, et plus de la moitié déclarent que leur infrastructure doit être améliorée. Rapport Cisco sur la défense implacable 2026 ont constaté que seulement 36 % des organisations australiennes appliquent des contrôles cohérents aux agents d’IA et aux identités non humaines. Dans le rapport, Groupe Lendi Le directeur technique Devesh Maheshwari a décrit l'objectif comme « une autonomie limitée, où l'agent peut agir en votre nom mais ne peut pas dépasser les limites que vous avez établies ».
C'est là que Cisco peut aider ses entreprises clientes. Solder soutient que la confiance doit être renforcée au niveau du réseau et des couches de sécurité. « Intégré au réseau et à la sécurité sous-jacente, le contrôle cesse d’être un frein et devient la permission d’aller plus vite », a-t-il déclaré. Cisco parie que son portefeuille de réseaux, de sécurité et de Splunk deviendra la couche de confiance pour l'IA agentique, et le rapport fournit une justification commerciale pour ce pari.
Leçons apprises d’en bas
Comme je l'ai indiqué ci-dessus, la recherche est qualitative et correspond à ce que j'entends des DSI du monde entier. Mon conseil aux responsables informatiques :
- Faire de l'IA un projet d'équipe de direction. Incluez le directeur des ressources humaines et le directeur financier aux côtés du CTO. L’IA est un changement culturel et une transformation commerciale, pas seulement un projet technologique. Les entreprises qui confient l'IA à l'informatique se retrouvent avec des plates-formes bien construites que les employés n'utilisent pas, exactement le problème décrit par Solder.
- Commencez petit et montrez votre travail. Commencez par des victoires visibles et à faible risque, puis publiez les résultats, y compris les taux d'erreur. Les données du rapport ont montré que travailler trois fois plus vite sans augmentation des erreurs convainquait davantage les sceptiques que n'importe quel mandat. La preuve propage la confiance plus rapidement que la persuasion.
- Rendre les garde-corps évidents. Les employés doivent savoir exactement ce qu’ils peuvent et ne peuvent pas faire avec l’IA sans consulter un document politique. Comme Funlab l’a appris, une grande partie des premières hésitations ne provenait pas de la peur de la technologie mais de l’incertitude quant à ce qui était autorisé. Des limites claires donnent aux gens la confiance nécessaire pour expérimenter.
- Mesurez les bonnes choses. Les connexions montrent que les gens utilisent l’IA, mais ils ne montrent pas s’ils lui font confiance de manière appropriée. Suivez la fréquence à laquelle les employés contestent, vérifient ou annulent les résultats de l'IA. Une main-d’œuvre qui ne s’oppose jamais à l’IA n’est pas un signe de réussite ; c'est un signe d'avertissement.
- Réparez les fondations avant de remettre les clés. Améliorez l’identité, la surveillance et les contrôles des agents avant d’étendre leur autonomie. Les agents fonctionnent à la vitesse d'une machine et la plupart des organisations n'appliquent toujours pas de contrôles cohérents aux identités non humaines. L’autonomie doit suivre l’état de préparation, et non l’anticiper.
Les gagnants de l’IA n’auront pas forcément les meilleurs modèles. Ils auront des employés, des conseils d'administration et des clients qui feront suffisamment confiance aux systèmes pour leur permettre d'en faire plus. Comme l'a dit Solder, « les leaders de nos recherches ne font pas d'abord évoluer l'IA. Ils font évoluer la confiance. »
Zeus Kerravala est analyste principal chez ZK Research, une division de Kerravala Consulting. Il a écrit cet article pour SiliconANGLE.
