Les entreprises qui se précipitent pour mettre leurs agents en production apprennent que la boucle d’amélioration de l’IA ne se termine jamais vraiment. Les agents doivent être exécutés, observés, évalués et améliorés en permanence.
CoreWeave Inc. a assemblé une plate-forme full-stack destinée à l'IA agentique. Son offre Forge est destinée à offrir aux unités commerciales et aux équipes d'apprentissage automatique un flux de travail partagé, selon Susanne Seitinger (photo), vice-présidente du marketing produit chez CoreWeave.
« C'est notre nouvelle façon de penser la boucle de l'IA, d'une manière qui vous permet de passer du premier agent à votre meilleur agent le plus rapidement possible », a-t-elle déclaré. « Ce qu'il fait, c'est rassembler tous ces éléments disparates afin que différentes équipes puissent communiquer entre elles plus efficacement. »
Seitinger s'est entretenu avec John Furrier et Dave Vellante de theCUBE Research lors de l'événement Fully Connected, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de CoreWeave Forge, de la boucle d'amélioration de l'IA et du nouveau réseau de partenaires de l'entreprise. (* Divulgation ci-dessous.)
Construire une boucle d'amélioration de l'IA reproductible
CoreWeave a lancé Forge pour transformer chaque cycle de production en un meilleur modèle et agent. La boucle passe par cinq étapes : exécuter, observer, organiser, améliorer, évaluer et répéter. Cela recommence ensuite, chaque passe étant censée s’appuyer sur la précédente. La vitesse d’apprentissage est la mesure la plus importante, selon Seitinger.
« Plus vite vous apprenez, plus vite vous expédiez, plus vite vous obtenez de la valeur. Cela revient à l'ensemble de la plateforme et à l'ensemble du cloud que nous construisons », a-t-elle déclaré.
Plusieurs nouvelles fonctionnalités ciblent les parties les plus difficiles de ce cycle. Agent Lens permet aux équipes d'inspecter ce que font leurs agents et le registre modélise les points de contrôle et les configurations des agents. Les déploiements RL et la distillation des modèles gèrent l'amélioration, tandis que l'agent de recherche et d'itération IA de CoreWeave, ou ARIA, est désormais généralement disponible pour aider les utilisateurs à repérer des modèles, a expliqué Seitinger.
« Comment prendre les connaissances d'un grand modèle et les distiller en quelque chose de spécifique à votre cas d'utilisation ? C'est si important pour toutes ces entreprises et organisations », a-t-elle déclaré.
Le timing est important car la répartition de la charge de travail évolue rapidement, a noté Seitinger. Cognition AI Inc. exécute déjà des charges de travail de production sur les premiers racks Nvidia Corp. Vera Rubin NVL72 de CoreWeave.
« Cette idée qu'on n'a jamais fini, qu'on va faire après la formation, qu'on va continuer à s'améliorer est une réalité », a-t-elle déclaré. « L'expertise dont nous disposons nous permet de générer des bénéfices encore plus tard dans la boucle et lorsque vous effectuez une inférence. »
L'écosystème est l'autre moitié du plan. CoreWeave a également introduit un réseau de partenaires construit sur des intégrations testées et co-conçues.
« Il s'agit vraiment de donner aux gens plus de recettes, de manuels de jeu, de cas d'utilisation et de solutions afin qu'ils puissent obtenir de la valeur plus rapidement », a-t-elle déclaré. « Je veux aider de notre côté, avec le travail de marketing, à fournir davantage de manuels que les gens peuvent déployer rapidement afin qu'ils n'aient pas à recommencer les mêmes apprentissages. »
Voici l'interview vidéo complète, qui fait partie de la couverture de Fully Connected par SiliconANGLE et theCUBE :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Fully Connected. Ni CoreWeave, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)