MiniMax Group Inc., un développeur d'intelligence artificielle basé à Shanghai, lève 2 milliards de dollars de financement.
Bloomberg a rapporté jeudi que plus de la moitié des fonds devraient provenir de la vente d'actions nouvellement émises. Selon la publication, la société mobilisera le capital restant en émettant des obligations convertibles. Ce sont des titres de créance que les investisseurs peuvent transformer en actions.
MiniMax aurait l'intention de donner suite à cette augmentation en vendant pour 6,5 milliards de dollars d'obligations convertibles à coupon zéro, qui sont des obligations convertibles qui ne génèrent pas d'intérêt. Ils permettront aux investisseurs d'obtenir 19,4 millions d'actions à un prix supérieur de 12,6% au cours de clôture de la société jeudi. Les obligations seraient dues en 2027.
Les actions de MiniMax ont clôturé en baisse de 9,8 % aux nouvelles d'aujourd'hui. La société a coté ses actions à Hong Kong plus tôt cette année dans le cadre d'une offre publique qui a permis de récolter environ 619 millions de dollars.
MiniMax développe une série éponyme de grands modèles de langage open source. La société a lancé son nouvel algorithme, MiniMax-M3, en juin. Il comporte 427 milliards de paramètres et peut traiter des invites contenant jusqu'à 1 million de jetons.
Le processus par lequel un LLM répond à une invite comprend deux étapes principales appelées phases de pré-remplissage et de décodage. MiniMax affirme que M3 peut effectuer ces étapes respectivement neuf et 15 fois plus rapidement que son précédent LLM phare. La société attribue cette accélération à une technologie qu’elle appelle MiniMax Sparse Attention, ou MSA.
Les cartes graphiques incluent deux types de mémoire appelés SRAM et HBM. Les LLM déplacent régulièrement des données entre eux tout en effectuant une inférence. La technologie MSA de MiniMax utilise une approche d'apprentissage automatique appelée FlashAttention pour réduire le nombre de fois qu'un LLM déplace des données entre SRAM et HBM, ce qui accélère l'inférence.
MSA optimise également les performances du modèle par d’autres moyens. Il utilise une technique connue sous le nom de pré-remplissage par blocs pour aider M3 à comprendre plus rapidement les invites volumineuses. De plus, un module de quantification compresse certaines des données générées par le LLM pour réduire ses besoins en mémoire.
L'objectif de recherche de MiniMax s'étend également au-delà des LLM. Elle a développé une famille de tokeniseurs visuels open source connue sous le nom de série VTL. Un visualiseur de jetons est un modèle d'IA qui transforme les images en vecteurs, des représentations mathématiques abstraites que les LLM peuvent traiter plus facilement.
MiniMax génère des revenus avec une plate-forme basée sur le cloud qui donne accès aux versions hébergées de ses modèles. De plus, la société propose des applications payantes de génération multimédia destinées aux consommateurs.
The Information a rapporté jeudi que le PDG de MiniMax, Yan Junjie, avait annoncé son intention de renoncer à son salaire jusqu'à ce que l'entreprise développe l'intelligence artificielle générale, ou AGI. Il s'est également engagé à céder 5 % de ses actions. Les fonds propres seront utilisés pour financer des incitations pour les employés et des projets open source.
