Alice, société de fiducie, de sûreté et de sécurité en matière d'IA, a annoncé aujourd'hui une levée de fonds de 140 millions de dollars menée par Apax Digital Funds. Jusqu'à son changement de nom plus tôt cette année, la société s'appelait ActiveFence. Elle vend des tests contradictoires et des garde-fous pour les modèles d’IA, avec pour clients des laboratoires frontaliers et de grandes entreprises.
Alice a débuté en 2018 en tant que fournisseur de confiance et de sécurité pour les plateformes grand public. Pendant la majeure partie de sa première décennie, ses analystes ont suivi les réseaux frauduleux, les réseaux extrémistes et les manipulations coordonnées au sein de ces services. Tout ce qu'ils ont enregistré a alimenté Rabbit Hole, un service qu'Alice appelle le plus grand ensemble de données de contenu contradictoire et nuisible du monde réel existant et les attaques qui y sont stockées fournissent désormais les cas de test que l'entreprise lance sur les modèles d'IA.
La plupart des laboratoires frontaliers travaillent déjà avec Alice. La société a déclaré que la partie IA de l'activité a augmenté de plus de 500 % en deux ans et que les revenus annuels récurrents approchent les 100 millions de dollars.
Le risque contre lequel il vend est bien documenté. L'International AI Safety Report 2026, rédigé avec les conseils de plus de 100 experts indépendants, a révélé que les attaques conçues pour générer des résultats nuisibles sont devenues plus difficiles à réaliser, même si les utilisateurs peuvent toujours les obtenir en reformulant une demande ou en la divisant en étapes plus petites. L'organisme de recherche indépendant METR tient à jour un catalogue public d'incidents au cours desquels des agents d'IA ont agi en dehors du cadre qui leur était imparti. Dans certains d'entre eux, l'agent a essayé de cacher ce qu'il avait fait.
Le travail est réparti sur tout le cycle de vie du modèle. Avant la publication, les chercheurs d'Alice exécutent des invites malveillantes et des tâches agents sur des modèles dans des laboratoires tels qu'Anthropic PBC, Google LLC et Cohere Inc., à la recherche de jailbreaks et de chemins d'injection d'invites. Une fois qu'un modèle est opérationnel, les entreprises clientes utilisent la plateforme pour définir leurs propres politiques sur ce qu'elle peut faire. Les clients simulent ensuite des attaques contre ces règles pour mettre en évidence les lacunes en matière de conformité et les fuites de données. La plateforme surveille les entrées et les sorties de la production.
Le directeur général et cofondateur Noam Schwartz a déclaré que l'industrie « démocratise les capacités avant de démocratiser les défenses ». Près d'une décennie passée à observer des gens abuser de la technologie à l'échelle de milliards, c'est ce que l'entreprise apporte à l'ère du modèle, a-t-il déclaré, et le cycle vise à combler cet écart.
Patrick Kane, associé chez Apax Digital, a fait une comparaison avec la transition vers le cloud et a déclaré que le changement de plateforme d'IA « ouvre une surface d'attaque en croissance rapide qui ne fera que s'élargir à mesure que les entreprises déploient des agents ». Apax Digital siégera au conseil d'administration.
Calcalist a rapporté que le cycle avait été réalisé sur une valorisation comprise entre 700 et 800 millions de dollars, mais Alice n'a pas divulgué cette valorisation.
Le nouveau financement porte le total porté par Alice à 280 millions de dollars.
