Bespoke Labs Inc., une startup qui s'efforce de rationaliser la phase post-formation des projets d'intelligence artificielle, a levé 40 millions de dollars de financement.
La société a déclaré aujourd'hui que le capital était arrivé en deux tranches. Bespoke Labs a levé la majeure partie des fonds, soit 31,75 millions de dollars, grâce à un cycle de série A dirigé par Wing VC. L'entreprise a été rejointe par Mayfield, The House Fund et des employés de grandes entreprises technologiques telles qu'Anthropic PBC. Bespoke a levé plus tôt 8,25 millions de dollars auprès d'un consortium comprenant Jeff Dean, scientifique en chef de Google DeepMind.
Le flux de travail par lequel les développeurs créent un modèle d'IA personnalisé comprend deux étapes principales. La première est la phase de pré-formation, qui donne au réseau neuronal les compétences et les connaissances de base dont il a besoin pour répondre aux invites. La deuxième phase, post-formation, affine les capacités de raisonnement du modèle. Cela peut également apporter des améliorations dans d’autres domaines tels que l’achèvement de tâches à long terme.
Les développeurs effectuent souvent une post-formation en utilisant une méthode appelée apprentissage par renforcement. L’idée de base est de fournir à une IA des exemples de tâches similaires au travail qu’elle effectuera en production. Lorsque le modèle termine correctement un exemple de tâche, il reçoit une « récompense ». La récompense est une donnée qui ajuste la configuration de l'algorithme pour améliorer la qualité de sa sortie.
L'apprentissage par renforcement est réalisé dans des environnements virtuels adaptés à chaque projet. Par exemple, un agent de productivité peut être formé dans un bac à sable qui simule les postes de travail des employés. Un agent de codage, quant à lui, peut nécessiter un référentiel GitHub simulé.
Bespoke Labs propose une plateforme qui facilite la création d'environnements d'apprentissage par renforcement. Selon l'entreprise, le logiciel génère des simulations à l'aide de flux de travail d'automatisation et de la contribution d'un réseau d'experts humains. Il affirme que la plate-forme le fait beaucoup plus rapidement que les approches manuelles traditionnelles.
La plate-forme exécute les environnements d'IA qu'elle génère à l'aide de ce que Bespoke décrit comme une couche de sandboxing. Ce dernier composant permet de minimiser la latence et d’augmenter le débit.
Le troisième composant principal de la plateforme optimise automatiquement la qualité de sortie des modèles d'IA en cours de formation. L'une des technologies utilisées pour cette tâche est GEPA, un projet open source Bespoke publié l'année dernière. Le logiciel automatise l'ingénierie des invites, le processus de recherche des demandes spécifiques et des formats d'invite qui maximisent la qualité de sortie d'un modèle d'IA.
L'apprentissage par renforcement n'est pas le seul objectif du travail open source de Bespoke. L’entreprise donne également la priorité à une autre méthode post-formation populaire appelée réglage fin supervisé, ou SFP. Il fonctionne en fournissant aux modèles d’IA un ensemble d’exemples d’invites et de réponses qu’ils peuvent utiliser pour affiner leur sortie.
L'assemblage d'ensembles de questions SFP peut prendre beaucoup de temps. En janvier dernier, Bespoke a publié un ensemble de données appelé OpenThoughts qui contient plus d'un million d'exemples d'invites et de réponses. La société affirme qu'OpenThoughts fournit de meilleurs résultats post-formation que les ensembles de données SFT précédents.
Bespoke Labs utilisera son capital nouvellement levé pour améliorer sa plateforme d'apprentissage par renforcement et financer davantage de recherche sur les données d'IA.
