L’intelligence artificielle transforme les entreprises en usines d’intelligence. À mesure que l’IA devient une nouvelle charge de travail, elle devient également une nouvelle surface d’attaque.
Le modèle d’usine que les entreprises construisent pour produire des connaissances à grande échelle n’a pas été conçu avec la sécurité en son centre. L’énergie, le calcul et les données entrent. L’intelligence sous forme de jetons en sort. Mais il en va de même pour les nouveaux risques que la cybersécurité traditionnelle n’a jamais été conçue pour gérer.
« Les usines d'IA introduisent une nouvelle classe de risques qui s'étendent au-delà des modèles de cybersécurité traditionnels. Dans ce monde, les données ne sont pas statiques, limitées ou facilement classifiées. Elles sont plutôt générées, transformées et consommées en permanence dans des environnements distribués », a déclaré Dave Vellanteanalyste en chef chez theCUBE Research, dans un analyse récente.
Les modèles sont soutenus par des systèmes déterministes qui se comportent de manière prévisible, mais ils sont également des moteurs adaptatifs et probabilistes qui évoluent au fil du temps, a expliqué Vellante : « Les agents agissent de plus en plus de manière autonome, interagissant avec les systèmes de l'entreprise, exécutant des flux de travail et prenant des décisions avec une intervention humaine limitée, voire inexistante. »
Cette fonctionnalité fait partie de l'exploration de SiliconANGLE Media sur la manière dont les entreprises sécurisent les usines d'IA alors que les modèles, les agents et les données créent de nouveaux risques au niveau de l'infrastructure, de l'identité et des opérations. N'oubliez pas de consulter la couverture étendue de SiliconANGLE sur le Événement « Sécuriser l'IA Factory avec Dell Technologies et Intel ». (* Divulgation ci-dessous.)
L'IA agentique crée une nouvelle classe de risques de sécurité
Dans ce nouvel environnement, Dell Technologies Inc. et Intel Corp. sécurité du bâtiment dans l'infrastructure elle-même, plutôt qu'après le déploiement. Les géants de la technologie s’efforcent de sécuriser les infrastructures d’IA et construire la protection des données de bas en haut.
« L'IA change tout le jeu », a déclaré Steve Kennistonévangéliste senior en cybersécurité pour le marketing de portefeuille chez Dell. « Il y a l'inférence de modèle ; il y a le modèle de formation, les données de formation. Il y a les systèmes dans lesquels les gens peuvent faire des choses comme une injection rapide ; il y a la gestion des identités qui doit être prise en compte. Chaque nouvelle application a une nouvelle surface d'attaque. «
L’IA n’étend pas seulement la surface d’attaque. Ça change quoi doit être protégé.
« L'IA apporte des menaces supplémentaires », a déclaré Mukund Khatrimembre et vice-président de l'architecture des systèmes chez Dell. « Le modèle… les LLM ressemblent à du code. Ils doivent être protégés comme du code, mais ce sont essentiellement des données. L'intégrité du modèle est d'une importance primordiale. »
Les agents IA sont de plus en plus courants dans les environnements d’entreprise, créant de nouvelles questions de sécurité à mesure qu’ils acquièrent la capacité d’agir de manière autonome. Étant donné que ces agents sont créés et gérés par des humains, les organisations doivent réfléchir à la manière dont leurs actions et leurs accès pourraient mettre en danger les données et les systèmes sensibles.
Les grands modèles de langage pourraient donner de mauvaises réponses, mais les agents pourraient prendre de mauvaises mesures, ce qui serait encore plus préjudiciable, selon Khatri. Lorsque les systèmes fonctionnent de manière autonome, le risque d’erreurs ou d’activités malveillantes peut augmenter, notamment parce que les actions sont exécutées en temps réel, souvent sans possibilité de contrôle humain.
L'identité devient un point de contrôle critique pour les agents IA
Les entreprises adoptent l’IA à grande vitesse, mais on ne sait pas clairement comment les agents fonctionnent et à quoi ils peuvent accéder. L’identité des agents est devenue un niveau de contrôle fondamental, car des agents mal gouvernés pourraient offrir une ouverture aux mauvais acteurs. Selon le Rapport Darktrace 2026 « État de la cybersécurité de l’IA »qui a interrogé 1 540 dirigeants et praticiens de la cybersécurité dans 14 pays, 92 % ont déclaré qu'ils étaient préoccupés par les implications en matière de sécurité des agents d'IA au sein de leur personnel, tandis que 46 % ont déclaré qu'ils ne se sentaient pas suffisamment préparés pour se défendre contre les menaces alimentées par l'IA. Le rapport révèle également que 87 % pensent que l’IA augmente considérablement la sophistication et le taux de réussite des logiciels malveillants.
Dans ce contexte, les modèles de sécurité traditionnels construits autour de la défense périmétrique, de l’application de politiques statiques et d’une réponse à la vitesse de l’homme s’avèrent de plus en plus insuffisants. Des pratiques telles que l’inversion de modèle, l’injection rapide et l’empoisonnement des données peuvent exploiter les faiblesses des modèles et des données plutôt que les seules vulnérabilités des logiciels conventionnels. Mais savoir où se situe le danger ne représente que la moitié du problème. L’autre moitié est la vitesse.
L’IA peut aider les adversaires à identifier les vulnérabilités et à développer des attaques plus rapidement, réduisant ainsi le délai entre la découverte des vulnérabilités et leur exploitation active, ce que les cadres de sécurité d’entreprise traditionnels n’ont pas été conçus pour résoudre. Les modèles d’IA peuvent analyser les logiciels, identifier les failles potentielles et accélérer certaines parties du processus d’attaque. Lorsque les agents se déplacent à grande vitesse dans les systèmes, la sécurité devient de plus en plus difficile à maintenir. Les charges de travail de l’IA apportent une complexité que la plupart des équipes de sécurité ne sont pas prêtes à gérer.
Pour faire le utilisation d'agents plus sûrele déploiement de l’accès selon le principe du moindre privilège sera crucial. L'extension des concepts de gouvernance tels que la gestion du cycle de vie et l'accès au moindre privilège des identités humaines aux agents ne nécessitera pas de repartir de zéro car les cadres de base existent déjà, selon Cas Kristaanalyste principal et responsable de la pratique en matière de cyber-résilience et de sécurité chez theCUBE Research. Le défi est de les adapter à une population en croissance rapide d’identités non humaines, comme les agents.
« À mesure que les agents d’IA gagnent en autonomie, l’identité devient un point de contrôle critique », a déclaré Case. « Les entreprises doivent savoir quels agents fonctionnent, à quoi ils peuvent accéder, quelles actions elles peuvent entreprendre et quand ces autorisations doivent expirer. Les moindres privilèges et la gouvernance du cycle de vie doivent s'étendre aux agents à mesure qu'ils deviennent une classe croissante d'identités d'entreprise. »
Cela rend l’implication précoce des équipes de sécurité de plus en plus importante à mesure que les organisations mettent leurs systèmes agentiques en production. Les contrôles d'identité et la gouvernance doivent être pris en compte avant que ces systèmes ne commencent à interagir avec des données et des processus métier sensibles.
« J'entends de plus en plus de la part de notre organisation de services dire que lorsqu'ils commencent à entrer dans un environnement client et qu'ils commencent à parler d'IA et de mise en œuvre de l'IA, environ 85 à 90 % de ceux-ci sont arrêtés parce que l'équipe de sécurité n'avait pas été impliquée jusque-là », a déclaré Kenniston. « Chez Dell, nous intégrons la sécurité dans tout ce que nous faisons, de la chaîne d'approvisionnement aux puces jusqu'à l'appareil qui vous est livré. »
L'entreprise conçoit son infrastructure d'IA à partir de zéro avec des racines de confiance intégrées dans ses composants, en intégrant la cyber-résilience dans le matériel et le micrologiciel plutôt que de les superposer par la suite. Dell Enterprise Hub utilise également la signature d'images cryptographiques et la vérification du hachage SHA-384 pour aider les organisations à vérifier l'intégrité et la provenance des conteneurs de modèles d'IA avant le déploiement.
L’usine IA exige également la sécurité au niveau du réseau et des opérations. L'infrastructure à l'échelle du rack de Dell intègre le calcul, la mise en réseau et le stockage dans un système unique où la télémétrie est cohérente et où les équipes de sécurité peuvent surveiller l'ensemble de l'environnement plutôt que de rechercher des composants individuels. Cette fonctionnalité est essentielle car les charges de travail d'IA génèrent un mouvement constant de données entre les nœuds, les systèmes et les modèles.
Cette visibilité est également importante après qu'un agent a effectué une action, en particulier lorsque les organisations doivent déterminer ce qui s'est passé et remettre les opérations dans un état de confiance.
« À mesure que les agents assument davantage de responsabilités dans les processus métiers, la cyber-résilience doit tenir compte de l’état de l’entreprise », a déclaré Case. « La reprise nécessitera ensuite de comprendre ce qu'un agent a fait, quelles décisions ont conduit à cette action et comment restaurer les opérations dans un bon état connu. »
Un matériel fiable constitue la base de la sécurité de l'IA
Pour de nombreuses entreprises, la réponse au renforcement de la sécurité consiste à conserver les charges de travail sensibles de l’IA sur site, en apportant de l’intelligence aux données plutôt que de les déplacer vers le cloud. Cette approche peut donner aux organisations un meilleur contrôle sur les informations sensibles, l'accès aux infrastructures et l'endroit où le traitement de l'IA a lieu. Il met également davantage l’accent sur la sécurisation de la base matérielle qui prend en charge les modèles, les données et les charges de travail d’inférence.
« Les logiciels de sécurité et les mesures de sécurité exécutées sur la pile ne peuvent être fiables que si le matériel sous-jacent est digne de confiance », a déclaré Mike Ferron Jonesresponsable de la mise sur le marché de la sécurité et de l'intégrité des plateformes chez Intel. « Le processeur est en quelque sorte la racine matérielle fondamentale de confiance dans l'ensemble de la pile de sécurité. Votre choix d'un processeur est votre toute première décision de sécurité que vous prenez. »
Intel organise ses capacités de sécurité des centres de données en quatre grands domaines : protection de la plate-forme, informatique confidentielle via SGX et TDX, application du comportement logiciel via les technologies de flux de contrôle et accélération du chiffrement. Ensemble, ils créent une base matérielle pour l'ensemble de la pile logicielle.
Les environnements d'IA confidentiels placent les charges de travail d'IA dans un environnement d'exécution fiable avec une isolation renforcée par le matériel, une attestation cryptographique et des clés de chiffrement contrôlées par l'organisation.
Intel a également développé un travail d'architecture de référence avec Nvidia Corp. qui combine des environnements d'exécution fiables pour les processeurs, notamment Intel TDX, avec les capacités informatiques confidentielles de Nvidia pour les GPU, étendant ainsi la protection confidentielle de l'IA aux charges de travail accélérées par les GPU.
La sécurité post-quantique entre dans la feuille de route de l’usine d’IA
Les progrès de l’informatique quantique suscitent des inquiétudes croissantes quant à la sécurité future de la cryptographie à clé publique largement utilisée, même si le moment où un ordinateur quantique pertinent sur le plan cryptographique reste incertain. L’un des risques de sécurité est le scénario « récolter maintenant, décrypter plus tard », dans lequel les attaquants collectent aujourd’hui des données cryptées dans le but de les déchiffrer une fois que des ordinateurs quantiques suffisamment performants seront disponibles. Dell et Intel se préparent à cette menace potentielle.
« D'ici 2029, nous prévoyons que toutes les opérations cryptographiques au sein des plates-formes Intel utiliseront une technologie de sécurité quantique », a déclaré Ferron-Jones.
La feuille de route publique actuelle d'Intel appelle séparément à une conformité totale de la cryptographie post-quantique sur toutes les nouvelles plates-formes d'ici 2030. Dell s'oriente également vers des protections résistantes aux quantiques et une cryptographie post-quantique dans certaines parties de son portefeuille.
À l’ère de l’IA, où les connaissances deviennent des jetons, la sécurité doit être le fondement de chaque couche technologique.
« Il doit devenir le plan de contrôle qui régit la manière dont le renseignement est produit », a déclaré Vellante. « Si vous ne parvenez pas à sécuriser le Usine d'IAvous ne contrôlez pas le résultat.
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement « Sécuriser l'usine d'IA avec Dell Technologies et Intel ». Ni Dell, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
