Meta Platforms Inc. aujourd'hui introduit Muse Ember, un modèle d'intelligence artificielle d'entrée de gamme qui coûte nettement moins cher que la concurrence.
Il s’agit notamment de la première IA que l’entreprise a formée à l’aide de Muse Wonder. Ce dernier algorithme est le grand modèle de langage phare du parent Facebook. Meta n'a pas précisé quelle partie du flux de travail elle avait automatisée avec Muse Wonder.
Une possibilité est que l'entreprise l'ait utilisé pour effectuer une post-formation, la tâche consistant à perfectionner les capacités d'un modèle en le formant sur des données supplémentaires. Thinking Machines Labs Inc. récemment démontré que même un LLM relativement petit peut exécuter des sessions post-formation de bout en bout. La PBC anthropique, quant à elle, la semaine dernière révélé que ses modèles d’IA pourraient bientôt acquérir la capacité d’accélérer considérablement la recherche sur l’apprentissage automatique.
Les applications utilisent souvent des LLM frontières tels que Muse Wonder dans le cadre d'ensembles d'IA. Lorsqu'un utilisateur saisit une demande, le Frontier LLM la divise en tâches plus petites et les assigne à des agents alimentés par un modèle moins coûteux. Meta dit que Muse Ember est spécifiquement optimisé pour jouer ce dernier rôle.
La société a évalué le modèle à l’aide de l’indice d’analyse artificielle, qui regroupe neuf références d’IA couvrant des cas d’utilisation tels que le codage et l’analyse financière. Meta dit que Muse Ember a égalé le score du modèle d'entrée de gamme Claude Haiku 5.5 d'Anthropic à environ un tiers du prix. Il a également surpassé l’algorithme GPT-6 Luna comparable d’OpenAI Group PBC.
La même évaluation interne a vu Meta tester Muse Ember et les deux modèles rivaux sur neuf autres benchmarks. Les trois algorithmes étaient en mode « max », ce qui signifie qu'ils utilisaient la quantité maximale de matériel à leur disposition au lieu de donner la priorité à la rentabilité. Muse Ember a surperformé Haiku et Luna dans sept des critères de référence.
Le domaine dans lequel le modèle semble avoir le plus grand avantage est l’automatisation des tâches métier. Alors que la plupart des résultats de référence de Muse Ember n'étaient que de quelques points de pourcentage supérieurs à ceux de Haiku et Luna, il a enregistré une avance de 17 % sur AutomationBench-AA. Il s'agit d'un ensemble de 657 tâches couvrant des applications cloud populaires telles que Gmail et Salesforce.
Muse Ember dispose d'une fenêtre contextuelle de 1 million de jetons, ce qui lui permet d'ingérer de longs documents commerciaux. Les utilisateurs peuvent également inclure des images, de l'audio et de la vidéo dans leurs invites. Le modèle génère des réponses d’une longueur maximale de 512 000 jetons.
Muse Ember est disponible via l'API Model de Meta pour 10 cents par million de jetons d'entrée et 50 cents par million de jetons de sortie. Un cache intégré peut réutiliser les invites fréquemment utilisées pour éviter un traitement en double. Lorsque la fonctionnalité est active, le prix de Muse Ember tombe à 0,4 centime par million de jetons d'entrée.
