Thinking Machines Labs Inc. a publié un nouveau grand modèle de langage capable d'automatiser les tâches de formation à l'intelligence artificielle.
L'algorithme, Inkling 2 Small, a fait ses débuts tard jeudi. À peu près au même moment, Business Insider signalé que Thinking Machine est en train de lever un cycle de financement de 5 milliards de dollars dirigé par Accel. La société, fondée l'année dernière par Mira Murati, ancienne directrice de la technologie d'OpenAI Group PBC, devrait recevoir une valorisation de 40 milliards de dollars.
Thinking Machines a formé Inkling 2 Small sur un cluster de racks GB300 NVL72. Chaque système contient 72 cartes graphiques Blackwell Ultra et deux fois moins d'unités centrales de traitement. L'entreprise a terminé la phase initiale de pré-formation en 68 heures et a ensuite affiné le modèle grâce à un flux de travail d'apprentissage par renforcement de neuf jours. Il y avait également un certain nombre d'étapes de formation intermédiaires.
Thinking Machines a perfectionné les capacités de programmation d'Inkling 2 Small en lui proposant des centaines de milliers de défis de codage à long terme. L'ensemble des tâches comprenait un certain nombre d'exercices d'« autorecherche » particulièrement complexes. Ils avaient besoin du modèle pour post-entraîner les réseaux de neurones, optimiser les composants LLM appelés noyaux et effectuer d'autres travaux de recherche sur l'IA.
Thinking Machines a mis à l'épreuve les compétences d'apprentissage automatique d'Inkling 2 Small en lui demandant d'affiner Qwen3.5-4B. L'objectif était d'améliorer la capacité du LLM open source à faire des prévisions telles que des prévisions météorologiques. Selon la société, Inking 2 Small a doublé le score de prévision du modèle en 4,5 heures.
Le LLM est également adapté à l'automatisation des tâches commerciales. Il a surpassé Spark Open, Kimi K3 et plusieurs autres modèles open source sur trois benchmarks populaires de travail du savoir. De plus, il a obtenu des scores plus élevés sur plusieurs ensembles de données de tâches financières.
Inkling 2 Small comprend un encodeur de vision capable d'analyser les images. De plus, il permet au LLM de vérifier visuellement la qualité des graphiques qu'il génère. Si un utilisateur demande au modèle de créer une boutique de commerce électronique, il peut non seulement vérifier les bogues du code du site Web, mais également inspecter visuellement les pages de produits pour vérifier qu'elles s'affichent correctement.
L'encodeur de vision représente 292 millions des 594 milliards de paramètres d'Inking 2 Small. Environ 17 milliards de ces paramètres s’activent lorsqu’un utilisateur saisit une invite. Inking 2 Small peut ajuster la quantité de puissance de calcul dépensée pour les tâches, ce qui permet aux développeurs de sacrifier la qualité de sortie pour une rentabilité accrue ou vice versa.
Les utilisateurs particulièrement avertis peuvent étendre les capacités du modèle en effectuant une post-formation ou en le personnalisant à l'aide de leurs propres données. Thinking Machines affirme que Inkling 2 Small apprend plus rapidement que ses modèles précédents. Cela devrait se traduire par des courses post-formation plus rentables.
Inkling 2 Small est disponible via le service cloud Tinker de Thinking Machines au lancement. La société prévoit de publier les poids du modèle sous licence open source la semaine prochaine.
