Alors que les entreprises mettent les agents IA au travail, elles sont confrontées à un défi : comment peuvent-elles donner plus d’autonomie à ces systèmes tout en maintenant les garde-fous des agents IA ?
La sécurité et la résilience deviennent des considérations centrales alors que les entreprises décident quelles tâches déléguer aux agents d’IA. Ces décisions s'étendent au-delà des actions individuelles jusqu'aux capacités de protection des données et de cyber-résilience qui soutiennent l'entreprise, selon John Scimone (photo), président et directeur de la sécurité de Dell Technologies Inc.
« La bonne nouvelle est que c'est le meilleur moment pour bien faire les choses », a déclaré Scimone. « Les organisations conçoivent aujourd'hui des agents qui fonctionneront pendant des années. À ce stade de la conception, c'est toujours le meilleur moment pour bien faire en matière de sécurité et de résilience. La résilience de la sécurité dès la conception pour les agents est une énorme opportunité. »
Scimone s'est entretenue avec Dave Vellante de theCUBE pour le Sommet sur la cybersécurité et la résilience de l'IA, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la manière dont la cyber-résilience a remplacé la reprise après sinistre traditionnelle, de la manière dont les responsables de la sécurité informent les conseils d'administration et du degré d'autonomie que les entreprises devraient accorder aux agents d'IA. (* Divulgation ci-dessous.)
Mettre en place des garde-fous pour les agents IA sans ralentir l'entreprise
La résilience des entreprises signifiait autrefois une reprise après sinistre après les incendies de forêt, les ouragans et les pannes de réseau. Aujourd’hui, selon Scimone, une cyberattaque généralisée sur l’ensemble d’un écosystème numérique est le scénario le plus probable. Les agents ajoutent une nouvelle dépendance car le travail confié au logiciel s'arrête lorsque le logiciel s'arrête.
« Que se passe-t-il si ces agents ne sont pas disponibles ? » dit Scimone. « Que se passe-t-il si les données sur lesquelles les agents décident ne sont pas disponibles ? Un élément essentiel de votre posture de résilience doit faire face à l'idée que si nos agents tombent en panne, notre travail n'a pas lieu. »
Les entreprises hésitent encore à laisser leurs agents agir seuls. Une enquête menée auprès de 25 responsables de la technologie et de la sécurité d'entreprise par Krista Case de CUBE Research a révélé que 19 d'entre eux disposaient d'agents autonomes en production. Aucun n’autorisait ces agents à effectuer des actions à haut risque sans l’approbation humaine.
« Cela ne signifie pas qu'il faut agir au hasard et simplement faire fi de toute prudence », a-t-il déclaré. « Cela signifie réfléchir très attentivement aux endroits où l'on ne peut pas échouer, mettre en place des garde-fous déterministes… et laisser l'entreprise fonctionner. À l'heure actuelle, je vois trop de prudence dans l'espace sur ce front. »
Dell applique cette discipline en interne, offrant à chaque agent un contrôle strict de l'identité et des accès, une journalisation étendue et une traçabilité des décisions et des actions, a expliqué Scimone. Ce travail de base est important car seuls quatre des 25 répondants à l'enquête ont testé un scénario d'incident avec un agent IA. Dell a également étendu ses outils de cyber-résilience et a rejoint l'appel d'OpenAI Group PBC à une action collective en matière de cyberdéfense.
« En ce qui concerne les menaces, la réalité est que même si les auteurs de la menace utilisent l’IA depuis plusieurs années, l’explosion ne s’est pas encore produite », a-t-il déclaré. « Nous n'avons pas encore atteint la courbe qui, je le crois, va se produire, et ce, dans les trimestres à venir, pas dans les années à venir. »
Vellante a souligné un résultat encourageant de l'enquête : les organisations accordant aux agents une autonomie limitée ont montré une meilleure préparation au rétablissement que celles qui s'appuient uniquement sur l'approbation humaine. Selon Scimone, les garde-fous conçus dès le départ pour les agents IA permettent aux entreprises de prendre plus de risques, pas moins.
« Ironiquement, les organisations qui conçoivent ces systèmes de gouvernance seront celles qui pourront agir le plus rapidement et prendre le plus de risques, car elles peuvent le faire en toute confiance avec les bonnes informations et les bonnes données pour savoir qu'elles n'exagèrent pas », a déclaré Scimone. « En même temps, ils ne sous-estiment pas. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE du Sommet sur la cybersécurité et la résilience de l'IA :
(* Divulgation : Dell Technologies Inc. a sponsorisé ce segment de theCUBE. Ni Dell ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
