La société de cyber-résilience CYGNVS Inc. a lancé aujourd'hui son AI Incident Command Center, une plateforme conçue pour aider les organisations à gérer les crises opérationnelles causées par leurs propres déploiements d'intelligence artificielle.
Le produit étend la plateforme d'incidents hors bande existante de CYGNVS à une nouvelle catégorie de risques : les défaillances des modèles et des agents que les entreprises mettent en production. Ces échecs vont des résultats biaisés et des hallucinations aux fuites de données et aux agents autonomes poursuivant des objectifs de manière involontaire ou destructrice.
CYGNVS a construit sa plateforme autour de l'isolement, le même principe que les équipes de sécurité appliquent à la réponse aux ransomwares. La société a déclaré que l'architecture maintient la réponse aux incidents hors du réseau d'entreprise et hors de portée de l'IA faisant l'objet de l'enquête, de sorte que le système examiné ne peut pas détecter, influencer ou manipuler la réponse.
Ce lancement intervient alors que les échecs de l’IA passent du stade théorique à la routine. Le Moniteur des incidents et des dangers liés à l’IA de l’Organisation de coopération et de développement économiques a enregistré 596 incidents liés à l’IA rien qu’en janvier 2026, soit une augmentation de 200 % d’une année sur l’autre. Une étude de Gartner Inc. citée par la société a révélé que 61 % des professionnels seniors déclarent avoir vu l'automatisation des agents d'IA déployée via des logiciels d'entreprise approuvés, tandis que 59 % rapportent des preuves ou de forts soupçons d'agents d'IA non autorisés circulant en dehors des voies réglementées.
La plupart des organisations ne disposent d'aucune infrastructure pour réagir lorsque ces agents se comportent mal, selon CYGNVS. La coordination d'une réponse englobe les technologies de l'information, la sécurité, les services juridiques, les dirigeants et les prestataires externes tels que les cabinets d'avocats. Sans playbook ni plateforme dédiée, les équipes se contentent du courrier électronique et de la messagerie interne, les mêmes canaux auxquels une IA sous enquête peut accéder ou influencer.
La technologie CYGNVS s'intègre aux déploiements d'IA pour faire apparaître les signaux de défaillance dans les applications, les modèles et les agents, puis active un playbook correspondant et intensifie la réponse dans son environnement isolé. Le produit est formé sur un ensemble de données exclusives de plus de 20 000 incidents majeurs issus du secteur de l'assurance, données qui ne sont pas disponibles publiquement ou commercialement.
La plateforme couvre quatre étapes : les étiquettes CYGNVS Préparer, Pratiquer, Répondre et Rapporter. Les organisations saisissent un incident avec un manuel adapté à leur secteur, leur zone géographique et leur type d'incident, exécutent des exercices sur table pour se préparer, coordonnent la réponse en direct dans un environnement enregistré unique et déposent des notifications réglementaires à l'aide de modèles prédéfinis. La société a déclaré que ces modèles couvrent les exigences de 56 lois contraignantes et 47 cadres dans le monde, y compris la loi européenne sur l'IA, la loi californienne sur l'IA, la loi locale 144 de New York, la loi Colorado sur l'IA et les lignes directrices sur l'IA et l'apprentissage automatique de la Food and Drug Administration des États-Unis.
« Le moment de déployer la réponse aux incidents d'IA se situe parallèlement au déploiement du projet d'IA, et non pas après et en rattrapage », a déclaré Matt Honea, responsable de la sécurité de l'information chez Hippocratic AI Inc. « La préparation aux incidents d'IA nécessite des manuels de jeu, des exercices sur table, une réponse coordonnée et des rapports d'incidents, reflétant exactement ce que les équipes de cybersécurité ont construit au cours de la dernière décennie.
Fondée en 2020, CYGNVS a levé un tour de table de série A de 55 millions de dollars dirigé par Andreessen Horowitz en janvier 2023. La société a déclaré que plus de 3 000 organisations utilisent sa plateforme et que ses clients y gèrent plus de 50 incidents majeurs par semaine.
Le centre de commandement des incidents AI est désormais généralement disponible.
