L’essor des néoclouds – les fournisseurs de cloud axés sur l’IA – transforme l’infrastructure des entreprises.
Les exigences uniques des modèles et agents d’IA ont ouvert la voie à de nouvelles collaborations entre les fabricants de matériel informatique, les plateformes de données et les néoclouds. Alors que l’industrie passe de la formation à l’inférence, ces partenaires s’efforcent de répondre aux demandes de puissance et de performances de calcul.
« L'IA agentique passe en production et l'inférence devient la charge de travail dominante », a déclaré Junxia Zhou (photo, rangée du bas, à gauche)chef de produit senior chez Super Micro Computer Inc. « L'inférence est très sensible à la latence, c'est pourquoi les fournisseurs de néocloud déploient l'IA plus près des utilisateurs finaux. Si vous déployez l'infrastructure à cette échelle… vous devez utiliser une conception ou une configuration d'infrastructure éprouvée qui peut être répliquée sur plusieurs emplacements. «
Zhou, aux côtés Phil Manez (rangée du haut, à gauche), vice-président des initiatives stratégiques chez Vast Data Inc. ; Anders Graham (rangée du haut, à droite), directeur principal du marketing SSD et du développement commercial chez Kioxia Holdings Corp. ; et Omar Lari (rangée du bas, à droite), directeur principal des produits, infrastructure en tant que service, chez Crusoe Inc., s'est entretenu avec Rob Strechay de theCUBE Research pour le Série d'entretiens avec le Supermicro Open Storage Summitlors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de leur collaboration, des contraintes de l'infrastructure d'entreprise actuelle et de la manière dont l'IA agentique remodèle le secteur. (* Divulgation ci-dessous.)
Les néoclouds se faufilent sur les hyperscalers
Supermicro travaille avec Crusoe, un néocloud qui adopte une approche « énergétique d'abord » pour ses services. L'entreprise s'appuie sur des sources d'énergie uniques, notamment l'énergie éolienne et le gaz naturel, pour ses centres de données et y ajoute des services d'infrastructure d'IA, le tout au nom de l'efficacité.
« Notre objectif principal est de garder cela aussi simple et direct que possible », a déclaré Lari. « Nous ne voulons pas avoir beaucoup de surcharge et disposer de 10 services différents qui font toutes les mêmes choses. Nous voulons que les clients puissent exécuter leurs tâches de formation, les convertir rapidement de projets de recherche en projets d'inférence générateurs de revenus, et pouvoir entrer sur le marché et répéter ce cycle encore et encore. »
Les néoclouds ont un avantage sur les hyperscalers car ils ont une conception axée sur l'IA sans aucun des bagages des architectures existantes. Crusoe s'associe à Vast pour tirer parti de leur architecture désagrégée à tout partagé (DASE) afin de fournir une plate-forme de stockage hautes performances et à faible latence avec plus de flexibilité que les cloud traditionnels.
« La montée en puissance des néoclouds est une confirmation très forte du fait que vous ne pouvez pas exécuter l'IA sur des architectures existantes », a déclaré Manez. « Les hyperscalers ont beaucoup de dettes techniques. Il est très difficile de renverser la situation. Et la voie du succès, si vous souhaitez vous lancer de manière agressive dans l'IA, est de s'adresser à quelqu'un qui sait comment construire ce type d'infrastructure. Elle doit être spécialement conçue pour l'IA, sinon elle ne pourra jamais évoluer. »
Crusoe utilise également la mémoire flash et les disques SSD de Kioxia pour augmenter l'efficacité énergétique. La demande combinée de production flash et de SSD d'entreprise dépasse pour la première fois la demande des applications mobiles et client, des années plus tôt que prévu, a noté Graham.
« Les néoclouds tels que Crusoe génèrent une demande sans précédent », a-t-il déclaré. « Ils construisent vraiment cette infrastructure spécialement conçue pour l'IA. Ces grands modèles de langage sont les principaux moteurs de la demande… et une grande partie de cela va aux néoclouds car ils ont été plus efficaces dans la construction de cette infrastructure. «
L’infrastructure d’IA lutte contre les goulots d’étranglement
Deux des plus grandes contraintes de la tendance de l’IA agentique sont la mémoire et le stockage. Les clients doivent être stratégiques quant à la manière dont ils déploient leur matériel, selon le panel. HSelon Graham, la technologie cellulaire à quatre niveaux de haute capacité réduira ces goulots d'étranglement, tandis que Zhou voit une évolution vers le refroidissement liquide dans les centres de données d'IA.
« La disponibilité de l'électricité est une question très difficile pour nous », a déclaré Zhou. « La capacité d'alimentation est toujours la première considération lorsqu'un client construit son infrastructure de données. À mesure que la consommation d'énergie des GPU modernes continue d'augmenter, le refroidissement par air seul devient difficile et coûteux à grande échelle. Les clients adoptent la technologie de refroidissement liquide car elle améliorera l'efficacité énergétique, permettra une densité de rack plus élevée et permettra aux opérateurs de réduire les coûts d'exploitation. »
Selon Lari, les frontières ont commencé à s'estomper entre le calcul, le stockage et l'infrastructure. Les collaborateurs devront continuer à réévaluer quelle combinaison de ces éléments permet aux clients d’en avoir pour leur argent.
« Nous jouons constamment à ce jeu de poker à enjeux élevés et nous veillons à placer les paris aux bons endroits », a-t-il déclaré. « S'assurer que wNous travaillons avec nos fournisseurs, avec Supermicro, Vast et Kioxia, pour nous assurer que nous disposons de stockage lorsque nous en avons besoin et au moment idéal, car l'autre chose que nous ne voulons pas faire, c'est de laisser des ressources inutilisées là, sans générer de revenus.
Restez à l'écoute pour l'interview vidéo complète, qui fait partie de la couverture par SiliconANGLE et theCUBE de la série d'interviews Supermicro Open Storage Summit.
(* Divulgation : TheCUBE est un partenaire média payant pour la série d'interviews du Supermicro Open Storage Summit. Ni Supermicro, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
