Les néoclouds se multiplient à mesure que les laboratoires d'IA et les entreprises recherchent une capacité d'unité de traitement graphique dédiée, mais la création d'un cluster n'est qu'un début. Pour les petits fournisseurs, le support des services gérés par les partenaires matériels détermine de plus en plus si cette capacité reste saine et rentable après la mise en service.
Les cloud spécialisés en IA jouent un rôle aux côtés des hyperscalers, en particulier là où les exigences souveraines du cloud dictent où se trouvent les données et qui les contrôle. Un jeune fournisseur ne peut pas gérer seul chaque couche d'un déploiement complexe de GPU, selon Tom Richer (photo), vice-président exécutif d'Alpha Compute Corp.
« Vous pouvez réunir de nombreux fournisseurs différents, mais quand les choses tournent mal, on commence à les pointer du doigt », a-t-il déclaré. « Vous voulez simplement un fournisseur de solutions intégrées qui peut garantir le succès, vous aider avec toute la construction, puis tous les… services gérés pour que tout fonctionne en bonne santé et que tout fonctionne conformément aux (accords de niveau de service). »
Richer s'est entretenu avec Dave Vellante de theCUBE Research au Dell Technologies New York Symposium, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté du support de services gérés, de l’infrastructure souveraine d’IA et du financement néocloud. (* Divulgation ci-dessous.)
Le support des services gérés ancre un néocloud souverain
Alpha Compute s'est lancé dans l'infrastructure de l'IA il y a moins d'un an après avoir débuté dans les actifs numériques, et est désormais leader avec l'informatique souveraine et confidentielle alimentée par le matériel Dell Technologies Inc. et Intel Corp. Son approche, que l'entreprise qualifie de souveraine par conception, commence au niveau du silicium et conserve les données dans le pays pour les clients soumis à des règles telles que la loi européenne sur l'IA et le règlement général sur la protection des données, a expliqué Richer.
« Nous commençons par le matériel. Pensez à une pile. Jusqu'au niveau de la puce, nous créons des enclaves », a déclaré Richer. « Nous sommes un partenaire Dell, nous utilisons donc la technologie Dell ainsi que la technologie Intel. »
Cette pile est déjà en production. Le cluster St. Louis à 72 nœuds de la société associe les systèmes Nvidia Blackwell de Dell avec un réseau InfiniBand et un refroidissement liquide direct à l'intérieur d'un centre de données en friche industrielle modernisé, et Alpha Compute a présenté des plans pour des clusters Blackwell supplémentaires. Alpha Compute a annoncé une feuille de conditions contraignantes pour une facilité de prêt sans recours de 31,9 millions de dollars garantie par le matériel Nvidia B300.
« Il y a cependant une sorte de trinité. Vous avez besoin d'un acheteur, d'un bon acheteur », a déclaré Richer. « Mais vous avez aussi besoin de ce genre de terrain, d'énergie (et) d'obus. »
Une fois qu'un cluster est opérationnel, Alpha Compute est propriétaire de la relation client. Les tickets, les mesures correctives et les retours de matériel sont gérés par une équipe commune avec Dell, qui a placé les usines d'IA au cœur de sa stratégie d'entreprise. À ce jour, les clients d'Alpha Compute sont des laboratoires d'IA qui souhaitent que le fournisseur gère tout ce qui se trouve sous le système d'exploitation. Les entreprises en demanderont probablement davantage, selon Richer.
« Avec Dell comme partenaire de services gérés, nous pouvons aller au-delà du (système d'exploitation) dès le deuxième jour », a déclaré Richer. « Ce qui est puissant avec Dell et son approche intégrée, c'est que nous pouvons atteindre n'importe quel niveau. »
Cette profondeur de prise en charge des services gérés façonne également la manière dont Richer envisage la concurrence des néoclouds. Plutôt que de remplacer le cloud public, des fournisseurs spécialement conçus, sans « voisins bruyants » ni partage mutualisé, prendront en charge les charges de travail GPU les plus exigeantes et les plus sensibles, a-t-il expliqué.
« Je vois vraiment les néoclouds accompagner et fusionner désormais le cloud public pour les choix des entreprises de cette manière hybride », a déclaré Richer. « Pour les charges de travail de superintelligence qui sont vraiment exigeantes, les entreprises peuvent envoyer ces charges de travail de calcul hautes performances sensibles et intenses vers le néocloud, afin qu'elles puissent travailler de concert. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE du Dell Technologies New York Symposium :
(* Divulgation : TheCUBE est un partenaire média payant pour le Dell Technologies New York Symposium. Ni Dell, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
