L’économie des jetons est en train de devenir une mesure déterminante de l’efficacité des infrastructures d’intelligence artificielle.
À mesure que les charges de travail de l’IA vont au-delà de la formation, les aspects économiques liés à la production de renseignements utiles commencent à façonner les décisions en matière d’infrastructure. CoreWeave s'appuie sur ce changement, en s'étendant au-delà du calcul GPU vers les réseaux, le stockage et les logiciels, tandis que la demande d'inférence augmente plus rapidement que la formation. Cette transition change la façon dont les clients évaluent la capacité, l'utilisation et le coût de production de jetons à grande échelle, selon Dave Vellante (photo, à gauche), analyste en chef chez CUBE Research.
« Aujourd'hui, ils sont à 50/50, et ils s'attendent à être à 10/90 d'ici l'année prochaine », a déclaré Vellante. « Les deux courbes sont en croissance. Si vous regardez les chiffres de CoreWeave, ils sont hors du commun. »
Vellante s'est entretenue avec l'analyste exécutif John Furrier (à droite) dans le cadre de l'analyse principale de l'événement Fully Connected, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la manière dont la croissance de l’inférence et l’optimisation au niveau du système modifient l’économie de l’infrastructure de l’IA. (* Divulgation ci-dessous.)
L’économie symbolique change l’équation des infrastructures
L’évolution vers l’inférence met davantage l’accent sur l’efficacité avec laquelle un système d’IA dans son ensemble peut transformer le calcul en sortie utilisable. Cela favorise les architectures optimisées sur le silicium, les réseaux, le stockage et les logiciels plutôt que autour d'un seul composant. Cette transition est une évolution vers des performances au niveau du système, a expliqué Furrier.
« Si ce changement se produit, ces centres de données seront très différents et le jeu restera le même », a-t-il déclaré. « Produisez autant de jetons par watt que possible. Obtenez l'intelligence. Vous avez eu la tempête parfaite du côté des fournisseurs avec Dell, des écosystèmes en plein essor et CoreWeave en pole position. «
Les implications commerciales vont au-delà de la performance. Les clients de CoreWeave réclament également des contrats plus courts, des prix au comptant et un accès à la demande, a noté Vellante. Ces modèles comportent des prix plus élevés que les accords d’achat ou de paiement à long terme, ce qui suggère que la flexibilité elle-même fait désormais partie de l’économie entourant la capacité de l’IA.
« Les prix pour ce type de structures sont beaucoup plus élevés et les gens sont prêts à payer », a déclaré Vellante. « Il sera vraiment intéressant de voir, à mesure que ce taux de 98 % commence à baisser vers 50/50, comment cela va en quelque sorte affecter le marché. »
CoreWeave construit au-delà de la capacité du GPU
La disponibilité du GPU peut attirer les clients vers CoreWeave, mais la société élargit sa pile pour les y maintenir. Sa stratégie comprend désormais la mise en réseau, le stockage et une couche logicielle construite autour de l'observabilité, de la sécurité et de l'amélioration continue, lui donnant plus de contrôle sur l'infrastructure entourant les charges de travail d'IA, a ajouté Vellante.
« Ce que CoreWeave fait stratégiquement, c'est qu'il s'étend au-delà du calcul », a-t-il déclaré. « Ils ont un réseau, ils ont du stockage. Ils ont annoncé (CoreWeave) Forge aujourd'hui… ils ont cette couche logicielle, qui est l'observabilité. Ils ont la sécurité là-dedans. Ils ont ce système en boucle fermée entre l'évaluation, l'observation, la conservation du temps d'exécution… c'est en quelque sorte comme ça qu'ils disent que leur couche logicielle est maintenant intacte. »
Cette approche systémique plus large renforce également la relation de CoreWeave avec Nvidia Corp. Ce silicium reste essentiel, mais l'avantage commercial dépend de plus en plus de l'efficacité avec laquelle la pile d'infrastructure complète transforme ces ressources en jetons utiles, a expliqué Furrier. La disponibilité du matériel n’est donc qu’une partie d’une équation de performances plus vaste.
« Cela devient de plus en plus un jeu de systèmes ; c'est une course aux systèmes », a-t-il déclaré. « Le silicium est extrêmement important. Ce qui est utile sur le plan commercial, c'est la rapidité avec laquelle l'ensemble du système se transforme en jetons utiles. En fin de compte, c'est la clé. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE de l'événement Fully Connected :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Fully Connected. Les sponsors de la couverture de l'événement theCUBE n'ont pas de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
