La société de sécurité des données Fortanix Inc. a étendu aujourd'hui sa plateforme Fortanix Confidential AI pour prendre en charge le projet Confidential Containers de la Cloud Native Computing Foundation, afin que les entreprises puissent exécuter des charges de travail d'intelligence artificielle sur Kubernetes dans des environnements d'exécution sécurisés basés sur le matériel.
Cette version intervient après l'exposition qui survient lors de l'inférence, lorsque les poids des modèles et les données qui leur sont fournies doivent être déchiffrés dans la mémoire du processeur. Les administrateurs privilégiés et les opérateurs cloud ayant accès à l’infrastructure peuvent potentiellement les joindre à ce stade.
Fortanix a publié la semaine dernière les chiffres d'une enquête sur la façon dont les leaders de l'IA perçoivent ce risque. Atomik Research a interrogé 300 d'entre eux auprès de grandes entreprises américaines pour le compte de Fortanix, et 93 % ont déclaré que le cryptage traditionnel ne protège pas les données pendant que l'IA les traite. Des problèmes de sécurité avaient conduit 41 % à bloquer complètement un déploiement.
La réponse de Fortanix s'appuie sur Confidential Containers, qui a atteint le statut d'incubation à la CNCF en juillet. Les plugins open source que la société écrit pour le projet vérifient qu'un conteneur est authentique avant qu'il ne s'approche d'une clé de cryptage. Cette vérification s'effectue via Fortanix Confidential Computing Manager, qui atteste le CPU et le GPU ensemble afin qu'un travail d'inférence couvrant les deux soit entièrement couvert.
Le Data Security Manager de l'entreprise ne remet les clés que si le résultat satisfait à la politique de sécurité du client. Ils ne vont nulle part sauf dans l’environnement protégé.
Le co-fondateur et directeur général Anand Kashyap a déclaré que déplacer l'IA dans des conteneurs « ne change pas la menace », puisque les modèles et les agents touchent toujours les données les plus sensibles d'une entreprise pendant leur exécution. Une fois les plugins en place, le déploiement d'un conteneur dans un environnement informatique confidentiel se fait en un seul clic sur le matériel pris en charge et les plates-formes Kubernetes.
Fortanix propose la mise à jour aux industries réglementées qui ont besoin d'une IA confidentielle pour tenir le coup en production. La version de clé s'exécute sur un cluster, donc la perte d'un serveur ne le bloque pas. Les clients ayant des exigences de souveraineté peuvent exécuter la plate-forme sur site ou de manière entièrement isolée, et la société affirme que cela permet également à une entreprise d'héberger le modèle propriétaire d'un laboratoire frontalier à côté de ses propres données sans mettre en danger la propriété intellectuelle du laboratoire.
« L'attestation est un protocole. La confiance est une opération », a déclaré Anuj Jaiswal, directeur des produits de Fortanix. Le fait de disposer de l'attestation et de la gestion des clés sur une seule plateforme évite aux entreprises de créer elles-mêmes la couche de confiance lorsqu'elles adoptent des conteneurs confidentiels standard, a-t-il déclaré.
Advanced Micro Devices Inc., Intel Corp. et CrowdStrike Holdings Inc. font partie de la douzaine d'entreprises répertoriées par Fortanix comme soutenant ce travail. John Fanelli, vice-président des logiciels d'entreprise chez Nvidia Corp., a déclaré que Fortanix s'appuie sur des normes ouvertes pour l'attestation et la libération sécurisée des clés « à l'échelle de la production ». Nvidia et Fortanix ont lancé une plateforme commune d'IA confidentielle sur site en octobre dernier.
Fortanix Confidential AI pour Confidential Containers est disponible dès maintenant. La société prévoit d'en faire la démonstration sur les GPU Nvidia avec informatique confidentielle activée lors du Nvidia GTC Berlin, qui se déroulera du 20 au 22 octobre.
