Applied Compute Inc., un fournisseur d'infrastructures d'intelligence artificielle à croissance rapide, a levé 350 millions de dollars de financement pour une valorisation de 3,25 milliards de dollars.
Applied Compute exploite une plate-forme cloud que les développeurs utilisent pour former de grands modèles de langage et effectuer des inférences, le processus d'exécution des modèles pour fournir des réponses aux requêtes. De plus, il dispose d’une équipe de chercheurs en apprentissage automatique qui peuvent aider les clients dans leurs projets. Le groupe assume des tâches telles que la création d'évaluations de qualité pour les modèles nouvellement développés.
La pile logicielle que les chercheurs en IA utilisent pour former les LLM comprend généralement deux composants principaux. On crée plusieurs copies du modèle, attribue une tâche différente à chacune et transforme les résultats en données d'entraînement. L'autre composant utilise ces données d'entraînement pour affiner les pondérations du LLM. Les deux composants fonctionnent généralement de manière synchrone, ce qui signifie que chacun doit attendre que l'autre ait terminé son travail avant de se lancer.
La plateforme d'Applied Compute utilise une approche de formation plus efficace appelée apprentissage par renforcement asynchrone. Il permet aux composants de génération de données et d'ajustement du poids d'une pile de formation de s'exécuter en même temps, ce qui accélère le développement LLM. De plus, la plateforme prend en charge une deuxième méthode d'optimisation appelée auto-distillation. Cela supprime le besoin de modèles d’enseignants, de réseaux neuronaux spécialisés que les chercheurs utilisent pour superviser les formations LLM.
Un assistant IA intégré automatise les aspects répétitifs du travail des clients. Il peut, par exemple, résumer les nouvelles compétences acquises par un LLM au cours d'une formation. Pour découvrir ces informations, les chercheurs doivent généralement examiner de longs journaux de raisonnement.
La plate-forme d'Applied Computing se prête également à l'exécution de charges de travail d'inférence. Un moteur de mise à l'échelle automatique ajuste automatiquement la quantité de matériel allouée à un modèle en fonction du trafic utilisateur. Une fonctionnalité dite RL en ligne utilise les invites reçues par le LLM pour affiner périodiquement ses pondérations, ce qui les maintient alignés sur les exigences des clients.
La société propose ses fonctionnalités de formation et d'inférence aux côtés d'un modèle de routeur appelé Shift-1. Il permet aux agents de codage d'envoyer chaque demande d'utilisateur au LLM qui peut y répondre de la manière la plus rentable. De plus, il peut répartir des tâches complexes entre plusieurs LLM.
Applied Computing a révélé dans son annonce de financement que ses revenus récurrents annualisés ont dépassé 100 millions de dollars. La société, lancée il y a moins de 18 mois, compte parmi ses clients Microsoft Corp., DoorDash Inc. et d’autres grandes entreprises technologiques. Elle utilisera les capitaux nouvellement levés pour accroître sa présence sur le marché et acheter davantage d'infrastructures.
« La formation, l'inférence et le routage sont les premiers éléments d'une pile beaucoup plus grande », ont écrit les fondateurs d'Applied Compute, Rhythm Garg, Yash Patil et Linden Li dans un article. article de blog. « Nous construisons l'infrastructure d'IA dont chaque entreprise aura besoin pour s'approprier pleinement son intelligence, depuis les modèles eux-mêmes jusqu'aux systèmes qui les exécutent, les surveillent et les sécurisent. »
