La gestion des risques liés aux agents évolue rapidement à mesure que l’IA entre dans des arènes de prise de décision conséquentes, effaçant la frontière entre les risques humains et machines dans l’entreprise.
Face à la double menace à laquelle sont désormais confrontées les entreprises, elles ne doivent plus se soucier des humains et des e-mails de phishing : elles doivent désormais également prendre en compte les travailleurs numériques non humains. Ces agents d'IA sont intégrés dans les flux de travail des entreprises à un rythme qui dépasse celui de la gouvernance, et la même vitesse qui les rend incroyablement productifs les rend indéniablement dangereux lorsqu'ils sont compromis, selon Matt Duren (photo), vice-président de l'IA et des données chez KnowBe4 Inc.
« Les choses que nous sommes capables de faire avec l'IA moderne ont tellement d'impact, tellement plus intelligentes », a déclaré Duren. « La plupart des dirigeants ont constaté qu'ils n'avaient pas le choix (entre les travailleurs humains et numériques). L'IA est utilisée par tout le monde, dans tous les secteurs et dans tous les postes. Ce sur quoi je me concentre cette année est la suivante : comment pouvons-nous nous lancer et avoir le même niveau de protection pour l'ensemble de la main-d'œuvre numérique ? »
Duren s'est entretenu avec Scott Hebner de theCUBE au KB4-CON 2026, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont expliqué comment KnowBe4 étend la gestion des risques des agents pour sécuriser l’ensemble de la main-d’œuvre numérique composée d’humains et d’IA. (* Divulgation ci-dessous.)
Sécuriser l’ensemble de la main-d’œuvre numérique grâce à la gestion des risques des agents
Les enjeux de la gestion des risques des agents augmentent parallèlement à l’échelle de déploiement. Le rapport « State of Human Risk » 2025 de KnowBe4 révèle que 45 % des responsables de la cybersécurité citent les menaces basées sur l'IA en constante évolution comme leur plus grand défi, et KnowBe4 répond sur différents fronts, a noté Duren. Sa capacité d'orchestration AIDA, lancée au premier trimestre 2026 en tant que huitième agent de la suite Artificial Intelligence Defense Agents, crée, planifie et personnalise de manière autonome des simulations de phishing et des formations de sensibilisation à la sécurité au niveau des utilisateurs individuels, en s'appuyant sur plus de 1,4 milliard d'événements à risque traités pour adapter chaque intervention. Du côté des agents, son produit Agent Risk Manager – actuellement en avant-première technique – donne aux équipes de sécurité une visibilité sur les agents IA opérant dans leur organisation.
« Nous voulons vraiment nous assurer que les équipes de sécurité comprennent quels agents sont là », a déclaré Duren. « Ce qu'ils font, à quoi ils ont accès, comment les humains interagissent avec ces agents et, en fin de compte, quel est leur impact sur leur entreprise et leur main-d'œuvre. »
Le moteur sous-jacent aux deux produits est le score SmartRisk de KnowBe4, désormais construit sur 316 indicateurs couvrant le comportement humain et, de plus en plus, l'activité des agents IA. L'entreprise a repensé le système de notation pour donner la priorité à l'explicabilité, donnant aux équipes de sécurité une visibilité claire sur les raisons pour lesquelles un score augmente ou diminue, et bientôt, une analyse générée par l'IA qui fait apparaître des recommandations et des informations au niveau individuel et organisationnel, a expliqué Duren.
« Le score de risque précédent… était quelque chose qui n'avait vraiment pas beaucoup d'explicabilité parce que nous utilisions des modèles d'IA formés sur mesure que nous avions produits nous-mêmes », a déclaré Duren. « Nous avons mis à jour cela. Nous avons maintenant donné de nombreuses approches algorithmiques complexes au score qui, de notre côté, impliquent également fortement l'IA et les agents. »
L’architecture du modèle qui alimente ces capacités est délibérément hybride. Plutôt que de s'engager sur un modèle de base unique, KnowBe4 suit le principe d'utiliser le bon modèle pour le bon travail, en fonction de la tâche. Cette flexibilité permet à l'équipe d'ingénierie d'optimiser les coûts, la précision et la latence sur une flotte croissante d'agents que Duren a décrit comme étant plus proche de 10 ou 20 systèmes distincts selon la façon dont ils sont comptés. Ce qui lie tout cela, c’est la confiance. Alors que plus de la moitié des responsables de la sécurité de l’information freinent activement le déploiement de l’IA parce qu’ils ne peuvent pas encore vérifier ce que font les agents ni pourquoi, le manque d’explicabilité est autant un problème commercial qu’un problème de sécurité, a-t-il ajouté.
« C'est une pause et, à bien des égards, c'est une pause dangereuse », a déclaré Duren. « Les entreprises qui l'ont compris sont capables d'agir à une vitesse que nous n'avons jamais vue auparavant. Les agents se déplacent à la vitesse d'une machine – même les petits risques qui y sont introduits peuvent vraiment être exploités rapidement. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE de KB4-CON 2026 :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement KB4-CON 2026. Ni KnowBe4, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
