La start-up d'intelligence artificielle basée à Londres, Callosum Ltd., a annoncé aujourd'hui avoir levé 100 millions de dollars de financement.
Atomico a dirigé l'investissement de démarrage avec la participation de Plural, DCVC et du UK Sovereign AI Fund. L'accord fait suite à une augmentation de 10,25 millions de dollars en février.
Callosum propose un service cloud appelé Tailored Inference qui aide les développeurs à augmenter l'efficacité de leurs applications d'IA. Selon l'entreprise, sa technologie peut effectuer certaines tâches d'inférence 3,7 fois plus rapidement que GPT-5.6 Luna avec une meilleure qualité de sortie. Callosum promet également de réduire les coûts d’infrastructure.
Les tâches exécutées par les applications d’IA comprennent souvent plusieurs étapes. L'inférence sur mesure transforme les étapes qui composent une tâche en modules logiciels autonomes appelés blocs. À partir de là, il envoie chaque bloc au modèle d’IA le mieux équipé pour l’exécuter. Les tâches simples sont acheminées vers des algorithmes à faible coût tandis que les travaux plus difficiles sont effectués par des modèles frontières.
L'inférence sur mesure optimise également l'infrastructure sous-jacente. Après avoir déterminé quelle partie d'une tâche d'inférence doit être effectuée par quel modèle, le service déploie chaque modèle sur la puce qui peut l'exécuter le plus efficacement.
Tailored Inference prend en charge les accélérateurs d'IA de plus d'une demi-douzaine d'entreprises lors de leur lancement. L'un des fabricants de puces de la liste, Cerebras Systems Inc., a annoncé aujourd'hui son partenariat avec Callosum dans le contexte du cycle de financement. Les sociétés intégreront leur série WSE d'accélérateurs d'inférence de la taille d'une tranche dans Tailored Inference.
Cerebras a lancé mercredi sa nouvelle puce WSE, la WSE-3 Turbo. Il présente le même nombre de cœurs que le processeur précédent de la société, mais offre des performances deux fois supérieures grâce à une fréquence d'horloge accrue. Les ingénieurs de Cerebras ont également mis à niveau le réseau sur puce qui relie les cœurs.
La société expédie l’accélérateur dans le cadre d’un module appelé Wafer-Scale Backpack. Il comprend du matériel de refroidissement liquide, des composants de gestion de l'alimentation et d'autres pièces auxiliaires. Trois Wafer-Scale Backpack forment l'épine dorsale du CS-4, une appliance rack que les clients de Cerebras peuvent utiliser pour déployer son silicium dans leurs centres de données. La société affirme qu'un seul CS-4 peut exécuter des modèles avec 10 000 milliards de paramètres.
Le processus par lequel les modèles d’IA génèrent des réponses rapides comprend deux étapes appelées phases de pré-remplissage et de décodage. Selon Cerebras, le CS-4 est particulièrement bien adapté à cette dernière étape. La société affirme que l'appliance peut être utilisée avec des puces optimisées pour le pré-remplissage d'Advanced Micro Devices Inc. et d'Amazon Web Services Inc. La plate-forme de Callosum peut exécuter les charges de travail des clients sur le silicium des deux sociétés.
« La prochaine génération d'IA sera définie par la façon dont le calcul est orchestré intelligemment, et pas simplement par la quantité de calcul disponible », a déclaré Danyal Akarca, co-fondateur et PDG de Callosum (photo de droite, avec le co-fondateur Jascha Achterberg).
