Meta Platforms Inc. a lancé aujourd'hui un nouveau modèle de langage phare optimisé pour alimenter les flux de travail d'automatisation multi-agents.
Muse Spark 1.1 est disponible dans le service de chatbot Meta AI de l'entreprise et via une interface de programmation d'application. L'API Meta Model, comme on l'appelle à juste titre, permettra aux développeurs d'intégrer le LLM dans leur logiciel personnalisé. Le service est en préversion publique.
Les flux de travail d'automatisation multi-agents comprennent généralement un agent principal qui élabore un plan sur la manière d'effectuer les tâches et des sous-agents qui exécutent ses instructions. L'agent principal génère son plan au début d'un nouveau projet. Selon Meta, Muse Spark 1.1 peut détecter et répondre aux développements à mi-tâche qui nécessitent de modifier le plan du projet.
Les tâches qui nécessitent l’automatisation de plusieurs agents comprennent généralement un grand nombre d’étapes. En conséquence, les agents génèrent une quantité importante de données lors de l’exécution de ces étapes. Si l'ensemble de données dépasse la limite de contexte du LLM sous-jacent, certaines informations doivent être supprimées, ce qui se fait souvent au détriment de la qualité du résultat.
Muse Spark 1.1 relève le défi avec un mécanisme de compactage du contexte. Selon Meta, il compresse les données générées par les agents IA de manière à enregistrer les détails les plus importants. Cela permet à Muse Spark 1.1 de récupérer « des informations provenant de travaux beaucoup plus antérieurs » lorsqu'il doit transférer des données d'une sous-tâche à une autre. Le modèle a une fenêtre contextuelle de 1 million de jetons.
Le compactage du contexte et les fonctionnalités multi-agents de Muse Spark 1.1 le rendent apte aux tâches de codage. Lors d'un test interne, les ingénieurs Meta ont demandé au modèle de générer une application de chat basée sur des invites. Muse Spark 1.1 a pris des captures d'écran de l'interface du programme, repéré plusieurs problèmes techniques, identifié les extraits de code à l'origine des problèmes et les a résolus.
Muse Spark 1.1 a obtenu un score de 72,2 sur un benchmark de programmation d'IA appelé Vibe Code Bench v1.1, ce qui lui donne plus de 50 points d'avance sur le précédent LLM phare de Meta. Il a obtenu un score près de 18 % plus élevé lors d'un deuxième test appelé SWE-Atlas Codebase QnA.
Les fonctionnalités qui permettent à Muse Spark 1.1 de s'adapter à la génération de code lui permettent également de s'attaquer à d'autres cas d'utilisation. Il peut générer des listes de commerce électronique basées sur une vidéo de produit, passer des commandes de restaurant au nom de l'utilisateur et effectuer d'autres tâches en plusieurs étapes.
L'API Meta Model via laquelle les développeurs peuvent accéder à Muse Spark 1.1 fonctionne vraisemblablement sur la propre infrastructure du parent Facebook. Reuters signalé aujourd'hui que l'entreprise prévoit d'augmenter la capacité de son centre de données à 14 gigawatts l'année prochaine. Le plan tournerait autour d’Iris, une puce d’IA développée en interne qui devrait entrer en production de masse en septembre.
Le rapport indique qu'Iris est probablement le MTIA400, un processeur d'IA personnalisé Meta présenté en avant-première en mars. Il comprend 51 % de bande passante mémoire HBM en plus que le silicium de génération précédente de la société. De plus, la puce prend en charge les versions améliorées de MX8 et MX4, deux formats de données que les modèles d'IA utilisent pour stocker leurs informations. Meta affirme que le MTIA400 est 400 % plus rapide que son prédécesseur.
Le silicium personnalisé de la société lui donne la possibilité de compléter l'API Meta Model avec des offres d'entreprise supplémentaires. Par exemple, la société mère de Facebook pourrait théoriquement vendre des appareils d'inférence sur site combinant des puces MTIA avec Muse Spark 1.1. D’autres hyperscalers s’apprêtent déjà à mettre leurs puces d’IA personnalisées à la disposition des opérateurs de centres de données tiers.
