Fireworks AI Inc., une startup qui aide les développeurs à former et à exécuter des modèles d'intelligence artificielle, a levé 1,5 milliard de dollars de financement.
Cette valorisation élevée reflète en partie la croissance rapide des ventes de Fireworks, qui a récemment propulsé son chiffre d'affaires annualisé au-delà du milliard de dollars. La clientèle de la société comprend Samsung Electronics Co., GitLab Inc. et d'autres grandes entreprises technologiques. Fireworks affirme traiter plus de 40 000 milliards de jetons par jour pour ses utilisateurs.
Fireworks exploite une plate-forme cloud que les développeurs peuvent utiliser pour affiner ou personnaliser les modèles d'IA open source. Il donne accès aux clusters de cartes graphiques gérés selon un modèle de tarification basé sur l'utilisation. Il existe également un agent IA qui automatise le flux de travail de formation IA. Les développeurs peuvent décrire la tâche pour laquelle ils souhaitent affiner un modèle, télécharger un ensemble de données de formation et demander à l'agent de régler les détails techniques.
Un modèle d’IA comprend des paramètres appelés hyperparamètres qui définissent des caractéristiques clés telles que le nombre de neurones artificiels qu’il contient. Selon Fireworks, son agent IA trouve la combinaison spécifique d'hyperparamètres qui maximise la qualité de sortie d'un modèle. Si nécessaire, il peut également étendre l'ensemble de données de formation fourni par l'utilisateur avec des fichiers DPO. Il s'agit d'ensembles de données contenant des instructions sur la manière dont un modèle doit répondre aux invites.
Les développeurs accélèrent les cycles de formation en répartissant les calculs sur plusieurs puces. La manière dont la parallélisation de la formation est mise en œuvre varie d'un projet à l'autre. Selon Fireworks, sa plateforme prend en charge quatre techniques de parallélisation différentes, chacune optimisée pour un type de modèle différent. Les équipes logicielles peuvent exécuter les quatre côte à côte ou n’utiliser qu’une seule méthode à la fois.
Une fois que les clients ont peaufiné un modèle, ils peuvent l'héberger à l'aide de l'un des deux services d'inférence proposés par Fireworks. Le premier fournit des environnements sans serveur qui ne nécessitent pas que les utilisateurs configurent l'infrastructure sous-jacente. L'autre service d'inférence de la société, Deployments, propose des clusters de cartes graphiques dédiés. Fireworks affirme offrir de meilleures performances que son offre sans serveur.
L'interface Déploiements offre également plus d'options de personnalisation. Les développeurs peuvent ajuster la façon dont le service effectue la mise à l'échelle automatique, la tâche d'ajout ou de suppression de capacité matérielle lorsque les volumes de demandes changent. Le service réduit les besoins en infrastructure des modèles en les compressant à l'aide d'une méthode appelée quantification.
« Chaque entreprise possède des connaissances que personne d'autre ne possède : ses données, ses flux de travail, ses clients, sa définition de la qualité », a déclaré Lin Qiao, co-fondateur et PDG. « Fireworks transforme ces connaissances en renseignements spécialisés qu'ils possèdent et qu'ils peuvent continuer à améliorer. »
Fireworks utilisera le produit de son cycle de financement pour étendre son infrastructure et embaucher davantage d'ingénieurs.
