À mesure que les agents IA élargissent la surface d’attaque de l’entreprise, les équipes de cybersécurité mettent davantage l’accent sur une stratégie de résilience de l’IA construite autour de la capacité de récupérer rapidement en cas d’échec de la prévention. Ce changement pousse également les organisations à repenser la gouvernance des données et la prolifération des outils de sécurité à mesure que l’adoption de l’IA s’accélère.
Les cybermenaces ont attiré davantage l’attention sur la résilience ces dernières années, tandis que l’IA élargit encore le débat sur ce que signifie réellement la résilience. En matière de sécurité, le concept s'éloigne de l'idée selon laquelle les organisations peuvent prévenir chaque incident et se prépare à la réalité de certaines attaques, selon Dave Russell (photo), vice-président senior et responsable de la stratégie chez Veeam Software Holding Inc.
« Cela signifie 'OK, essayez d'arrêter tout ce qui ne va pas', bien sûr – mais si cela ne fonctionne pas, et il y a de fortes chances qu'à un moment donné, en raison de la complexité des systèmes, de la sophistication des attaquants et, dans certains cas, simplement à cause d'accidents, des problèmes surgiront », a déclaré Russell. « La résilience n'est pas un état d'esprit qui consiste à s'assurer que les choses ne se détériorent jamais, mais que faire si cela se produit ?
Russell s'est entretenu avec Krista Case à Black Hat USA, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de l’élaboration d’une stratégie de résilience de l’IA grâce à des capacités de récupération testées et à une gouvernance des données plus forte à mesure que les entreprises déploient des agents d’IA. (* Divulgation ci-dessous.)
Construire une stratégie de résilience de l’IA
Les tests sont essentiels, car sans eux, les organisations comptent sur l’espoir et les attentes plutôt que de savoir avec certitude qu’elles peuvent se rétablir. Les exercices sur table peuvent aider, mais ils ne suffisent pas à eux seuls à prouver que la récupération fonctionnera réellement, selon Russell.
«Nous envisageons peut-être un niveau de disponibilité et de résilience plus élevé que ce qui pourrait être le cas en réalité», a déclaré Russell. « Pour la récupération des systèmes du point de vue de la preuve, nous proposons des outils de vérification de la récupération, mais nous les associons désormais à des technologies de sécurité aux deux extrémités du spectre afin que nous puissions avoir confiance, des niveaux assurés de récupération et de résilience. »
Une bonne hygiène des données commence par des données fiables et fiables et par la confiance dans la capacité de les récupérer en cas de besoin. Une fois cette base en place, les organisations peuvent mieux prendre en charge les outils qu'elles déploient et la formation qu'elles dispensent aux équipes administratives lorsqu'elles adoptent l'IA, selon Russell.
« Ces runbooks et ces outils peuvent être utilisés lorsque des événements météorologiques surviennent, lorsque des cyber-événements surviennent ou lorsque des événements internes d'IA ou des attaques externes pourraient aller dans une mauvaise direction pour vous. Il s'agit toujours d'une conversation sur la continuité des activités et la résilience des données », a déclaré Russell. « Il y a une certaine unicité, ne vous méprenez pas, mais pour beaucoup de ces mêmes étapes, la réponse n'est pas de déployer autre chose ou encore une autre spécifique, unique, ponctuelle, isolée – quelque chose qui ne fait pas partie d'une plate-forme combinée adoptant une approche plus holistique. »
Les organisations passent des discussions théoriques sur l’IA à une compréhension plus approfondie de la façon dont la qualité des données affecte les résultats. Selon Russell, des données redondantes, obsolètes ou inexactes peuvent conduire les agents d’IA à de fausses conclusions, même une petite quantité de données de modèle erronées pouvant fausser les résultats plus larges.
« Je pense que dans un an, qu'allons-nous apprendre ? Que les petites choses comptent. La collecte des déchets en amont de la production ne sera plus un article de luxe, mais probablement un mandat, un mandat d'exposition, un mandat de qualité de l'IA, un mandat de réduction des vecteurs d'attaque », a déclaré Russell. « J'espère que nous allons nous améliorer un peu dans la gestion des données et bien mieux comprendre que nous devons nous préparer à l'avance. »
Voici l'interview vidéo complète, faisant partie de la couverture de Black Hat USA par SiliconANGLE et theCUBE :
(* Divulgation : TheCUBE est un partenaire média payant pour Black Hat USA. Les sponsors de la couverture de l'événement theCUBE n'ont pas de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
