La startup de sécurité des développeurs Arcjet Labs Inc. a lancé aujourd'hui la sécurité d'exécution des agents, une nouvelle offre qui suit ce que font les agents d'intelligence artificielle une fois qu'ils s'exécutent dans des systèmes de production.
Les équipes de sécurité obtiennent une liste des agents actifs, et chaque action entreprise par un agent peut être vérifiée par rapport à la politique avant son exécution. Chaque exécution est également enregistrée pour un examen ultérieur.
Cette version s'attaque à un problème qui s'est développé à mesure que les agents dépassent les interfaces de chat. En production, ils peuvent désormais écrire dans des bases de données, répondre aux tickets d'assistance et traiter les remboursements des clients, et bon nombre de ces flux de travail démarrent à partir d'un e-mail ou d'une validation de code avant de passer à travers plusieurs systèmes sans que personne ne vérifie chaque étape.
Le fondateur et directeur général, David Mytton, a déclaré qu’un résultat risqué peut s’accumuler au fil d’une « série d’étapes qui semblent parfaitement raisonnables en elles-mêmes ». Arcjet relie ces étapes et donne aux équipes des contrôles politiques qui peuvent agir à ce qu'il appelle « la vitesse de la machine ».
L’intégration de l’activité de l’agent dans Arcjet ne nécessite aucune modification du code ni un autre agent sur l’hôte. Les équipes de plateforme peuvent l'envoyer via les outils OpenTelemetry qu'elles utilisent déjà, et les clients de Claude disposent d'un deuxième itinéraire via l'API de conformité d'Anthropic PBC. Chaque agent apparaît alors dans un inventaire. Les invites, les paramètres d'appel aux outils et les décisions de sécurité issues de sessions distinctes sont regroupés dans un seul flux de travail par agent, afin qu'un enquêteur puisse exécuter une action à la fois.
Les équipes de sécurité peuvent définir des règles pour détecter une injection rapide ou supprimer des informations personnelles avant leur fuite. La détection des robots et les limites de débit sont également disponibles. Ces politiques s'exécutent sur Open Policy Agent et peuvent être modifiées sans redéployer l'application, de sorte qu'une équipe puisse plafonner la valeur monétaire de tout remboursement émis par un agent sans attendre une version.
Chaque vérification de stratégie a lieu avant l'exécution de l'action. Arcjet renvoie une décision, et l'application peut alors interrompre l'appel, demander à une personne de l'approuver ou envoyer une explication à l'agent. Une deuxième vérification après l'appel vérifie le résultat avant que le flux de travail ne continue. La société répertorie les intégrations natives avec le SDK Claude Agent, le SDK OpenAI Agents, LangChain, Mastra et Agent Framework de Microsoft Corp., entre autres.
Pour les audits, des traces corrélées conservent les actions, les entrées et les évaluations de politiques de chaque exécution. Certains contrôles, y compris la détection des données personnelles, s'exécutent entièrement au sein du processus propre du client, afin que les données ne quittent jamais leur environnement. Les clients peuvent conserver des enregistrements d'audit dans le cloud d'Arcjet, dans un déploiement de cloud à locataire unique ou privé ou dans un stockage qu'ils gèrent eux-mêmes.
La version déplace également les kits de développement logiciel Python et Go d'Arcjet vers la version 1.0. Le SDK JavaScript et TypeScript est arrivé en février et prend désormais en charge plus de 15 frameworks, dont Next.js. Une interface de garde distincte qui n'est liée à aucun framework étend la couverture aux tâches en arrière-plan et à d'autres codes, y compris les processus qui ne gèrent jamais de requête Web.
Arcjet affirme que plus de 500 applications de production exécutent désormais ses logiciels, trois ans après la création de l'entreprise par Mytton. Ses bailleurs de fonds incluent Plural, qui a mené un tour de table de série A de 8,3 millions de dollars en octobre dernier, ainsi qu'Andreessen Horowitz, Seedcamp et l'ancien directeur de la technologie de Twilio Inc., Ott Kaukver.
