L'équipe Strands Labs d'Amazon Web Services Inc. s'est penchée sur une classe émergente de systèmes légers d'intelligence artificielle connus sous le nom de « modèles de décision » et met désormais les fruits de ce travail à la disposition de la communauté open source.
La société a annoncé aujourd'hui la publication d'un modèle de décision open source appelé Strands Decider 2B, conçu pour prendre des décisions rapidement en éliminant le besoin de générer du texte, ce qui consomme de grandes quantités de jetons et augmente la latence de réponse.
Strands Decider 2B a été optimisé pour les déploiements locaux et l'expérimentation rapide, afin que les développeurs puissent le télécharger et l'exécuter sur leurs propres ordinateurs portables ainsi que sur des environnements de cloud public. En donnant aux développeurs l'accès à un moteur de prise de décision dédié, AWS a déclaré qu'il espère accélérer plus largement le rythme du développement de l'IA agentique.
Les modèles de décision, également appelés « modèles du Système 1 », sont des choses très différentes des grands modèles de langage que tout le monde connaît et aime ou déteste. Alors que les LLM répondent aux entrées en générant du texte, du code, des images ou des vidéos, les modèles de décision prennent simplement des décisions lorsqu'on leur présente un certain nombre de choix prédéfinis, sans autres résultats. Chaque décision qu'ils prennent se voit attribuer un score de confiance pour aider les utilisateurs à juger de la précision de la réponse.
L'omission de la génération de texte signifie que les modèles de décision excellent en termes de vitesse et de faible latence. Les scores de confiance attribués à chaque réponse sont cruciaux, car le manque de capacités de génération de texte signifie que ces modèles ne peuvent pas expliquer leurs décisions.
Bien que les modèles de décision existent depuis un certain temps, ils n'ont commencé à attirer l'attention qu'il y a quelques semaines, suite à l'émergence d'une startup appelée TypeSafe AI Inc. et à la sortie ultérieure de Jev. Il a été conçu pour prendre des décisions rapides et structurées que les logiciels et les agents d’IA peuvent utiliser directement. Jev a démontré à quel point les modèles de décision peuvent être utiles, mais l'équipe d'AWS estime qu'ils souffrent d'un certain nombre de lacunes structurelles. D'une part, sa structure de sortie parallèle signifie qu'il y a des problèmes de performances lorsqu'on lui demande d'effectuer un raisonnement complexe.
AWS a décidé d'essayer d'améliorer le concept et Strands Decider 2B est sa première véritable tentative dans ce sens. Il est construit sur un LLM standard, en utilisant le torse de base du Qwen3.5-2B, mais AWS a remplacé la « tête LLM » traditionnelle par une petite « tête de pointeur » personnalisée qui possède un million de paramètres relativement minuscules. Il a affiné le torse du Qwen3.5-2B à l'aide d'un adaptateur LoRA de rang 16 pour évaluer les états cachés des choix disponibles directement par rapport aux positions de réponse.
Le géant du cloud a déclaré avoir répété à plusieurs reprises sur Strands Decider 2B, la version d'aujourd'hui étant uniquement nommée v.20. La société a déclaré avoir délibérément choisi l'échelle de 2 milliards de paramètres car elle estime que cette taille offre le juste équilibre, la rendant suffisamment petite pour fonctionner sur une machine locale avec moins de 150 millisecondes de latence, tout en restant suffisamment puissante pour prendre des décisions complexes. Strands Decider 2B se classe certainement bien dans les benchmarks, AWS rapportant qu'il a atteint des performances de haut niveau en termes de précision et d'étalonnage sur JevBench par rapport à d'autres modèles 2B open source.
Le modèle est disponible en téléchargement dès maintenant via Hugging Face, et la base de code complète, les scripts de formation et les exemples peuvent être trouvés sur sa page GitHub.
AWS espère que la communauté des développeurs d'IA expérimentera Strands Decider 2B et accélérera les tâches agents telles que le routage de modèles, la sélection d'outils, la gestion du contexte, l'application des garde-fous et la classification des politiques. Cela ouvre également la voie à la création d’« agents hybrides » qui utilisent des modèles de décision pour effectuer des choix simples et répétitifs et des LLM pour relever des défis de raisonnement complexes.
