Startup Reflection AI Inc. aujourd'hui fait les poids de Beam, son premier grand modèle de langage, disponible sur Hugging Face.
La société a également publié des ressources techniques qui permettront aux développeurs de personnaliser l'algorithme.
Initialement présenté la semaine dernière, Beam est l'un des LLM open source les plus avancés du secteur. Il comporte environ 500 milliards de paramètres, mais approche les performances de modèles quatre fois supérieurs à sa taille sur certains benchmarks. Il utilise également beaucoup moins de puissance de calcul et de mémoire.
Reflection AI a formé Beam pendant deux mois en utilisant plusieurs milliers de cartes graphiques haut de gamme. De telles exécutions de formation à grande échelle sont sujettes à des erreurs susceptibles de diminuer la qualité du modèle. Selon Reflection AI, ses ingénieurs ont relevé le défi en développant un ensemble d'algorithmes personnalisés d'optimisation de la fiabilité.
Les efforts de l'entreprise en matière d'atténuation des erreurs ont mis un accent particulier sur la nécessité d'éviter les inadéquations entre la formation et l'inférence. Ce sont des bugs qui apparaissent lorsqu'il y a de légères incohérences dans la configuration des composants d'un environnement de formation en IA.
Reflection a également développé un système capable de corriger automatiquement certaines erreurs de qualité des données. Lorsque de tels bugs apparaissent, le système ramène la formation à un stade antérieur et continue à partir de là au lieu de recommencer à zéro. La société affirme que ses optimisations lui ont permis de former Beam avec un temps d'arrêt du cluster pratiquement nul.
Les poids nouvellement lancés par Beam sont disponibles en plusieurs versions. Il existe une édition standard et plusieurs variantes réduites qui conservent les informations dans des unités de données plus petites. Cet arrangement, connu sous le nom de quantification, échange une certaine qualité de sortie contre une efficacité matérielle accrue.
Les poids sont disponibles aux côtés de recettes de formation, de modèles de code qui permettent aux utilisateurs d'affiner le modèle. Une startup de codage d'ambiance, par exemple, pourrait créer un flux de travail de réglage fin qui améliore les capacités de programmation du modèle. Les recettes sont accompagnées d'outils qui peuvent être utilisés pour mesurer la manière dont les personnalisations modifient les capacités et les garde-corps de sécurité de Beam.
Reflection AI a également publié un modèle de rédaction pour Beam. Il peut être utilisé pour mettre en œuvre un décodage spéculatif, une approche d'inférence conçue pour réduire l'utilisation du matériel. L'idée de base derrière la méthode est d'utiliser un LLM léger, le modèle de rédaction, pour générer la version initiale d'une réponse rapide. Beam vérifie la sortie pour les erreurs avant de l'afficher à l'utilisateur.
Pour effectuer une inférence de manière efficace sur le plan matériel, les développeurs doivent utiliser un outil logiciel appelé moteur de service. L'adaptation d'un LLM à un moteur de service donné peut impliquer une quantité de travail importante.
La version d'aujourd'hui comprend des configurations Beam prêtes à l'emploi pour plusieurs moteurs de diffusion populaires. Les développeurs ont également accès à des noyaux fusionnés, des extraits de code qui compressent plusieurs calculs d'inférence en une seule opération pour accélérer le traitement.
Reflection AI prévoit de donner suite au lancement en publiant des recettes de formation supplémentaires dans les prochains jours. Ils permettront à Beam d’affiner sa propre qualité de production en utilisant une approche connue sous le nom d’autodistillation. De plus, la société a l’intention de partager certaines des leçons qu’elle a glanées lors du développement du modèle sous la forme de contributions aux outils d’IA open source.
