La start-up de certification d'agents d'intelligence artificielle, Artificial Intelligence Underwriting Company, a annoncé aujourd'hui avoir levé 40 millions de dollars de nouveaux fonds pour commencer à auditer les modèles d'IA de pointe.
Jusqu’à présent, ses travaux ont porté uniquement sur les agents que les entreprises construisent sur ces modèles. L’AIUC affirme que l’incertitude quant aux risques ralentit désormais l’adoption de l’IA plus que tout déficit dans ce que la technologie peut faire.
Rune Kvist, cofondateur et directeur général de l'entreprise, a déclaré que la plupart des entreprises disposent d'une liste d'agents qui ont été approuvés dans les projets pilotes mais qui sont « bloqués lors de l'examen de sécurité ». La preuve de sécurité et de fiabilité est devenue le principal goulot d'étranglement, a-t-il ajouté.
La norme au cœur de l’activité s’appelle AIUC-1. La certification signifie faire subir à un agent environ 5 000 combinaisons de risques et d’attaques adaptées au type d’entreprise qui le déploie, avec des jailbreaks, des hallucinations et des fuites de données parmi les échecs testés. Chaque agent est audité de manière indépendante et recertifié chaque trimestre à mesure que les techniques d'attaque évoluent. Une grande partie des tests est effectuée par des agents IA, des humains vérifiant l'audit final, selon TechCrunch.
La société d'IA vocale Eleven Labs Inc. a utilisé sa certification en février pour obtenir ce qu'elle décrit comme la première assurance du genre pour les agents IA, y compris une couverture pour un agent vocal qui donne des informations incorrectes à un client. Le développeur de curseurs Anysphere Inc. et la société d'IA juridique Harvey AI Corp. détiennent également la certification. KPMG LLP, Lovable Labs Inc. et UiPath Inc. figurent également sur la liste, tout comme le fabricant de logiciels de service client Fin, anciennement Intercom Inc. L'élaboration de la norme est un consortium de plus de 250 responsables de la sécurité et des risques issus d'entreprises Fortune 1000, qui font également pression pour son adoption au sein de leurs propres organisations.
Kvist et son co-fondateur, Rajiv Dattani, sont venus à l'AIUC de différents coins du problème. Kvist a été le premier produit loué par Anthropic PBC. Dattani a passé du temps en tant qu'associé au sein du cabinet d'assurance de McKinsey & Co., puis a occupé le poste de directeur de l'exploitation de METR, une organisation à but non lucratif d'évaluation de modèles d'IA.
« Lorsque l'électricité brûlait les maisons, les assureurs qui payaient la facture finançaient les Underwriters Laboratories pour tester et certifier les produits », a déclaré Dattani. « À ce jour, la marque UL figure sur la plupart des ampoules en Amérique. L'IA a besoin de la même combinaison de normes, de tests et d'assurance. »
L'AIUC a commencé avec les applications parce que les examens de sécurité ont d'abord bloqué les déploiements là-bas. L’entreprise affirme que la même pression s’exerce désormais autour des modèles pionniers. Les bénéfices du cycle étendront ses travaux d’audit et d’assurance à ce niveau, faisant partie de ce que l’AIUC décrit comme un écosystème de surveillance frontalière des systèmes d’IA les plus avancés.
Ribbit Capital a dirigé la série A avec la participation de First Harmonic. Nat Friedman de NFDG a mené un tour de table de 15 millions de dollars lors du lancement de la société en juillet 2025, et les investisseurs ont désormais investi au total 55 millions de dollars dans l'AIUC.
Micky Malka, fondateur et associé directeur de Ribbit Capital, a déclaré que son cabinet a passé plus d'une décennie à soutenir des sociétés de services financiers dans un secteur où la confiance compte plus que toute autre chose. L’IA suit le même chemin, a-t-il déclaré, « et elle évolue plus rapidement que les systèmes utilisés par les entreprises pour l’évaluer ».
