L’intelligence artificielle change l’apparence des plateformes de stockage et de gestion de données.
En collaboration avec Super Micro Computer Inc. et Solidigm, DataDirect Networks Inc. a introduit HyperPOD IA DDN Enterpriseconstruit sur Plateforme de données IA de Nvidia Corp.. L’objectif est de simplifier le stockage, la mise à l’échelle et le déploiement de l’inférence d’IA pour les charges de travail d’entreprise.
« Les clients préfèrent le meilleur, mais cela peut souvent entraîner de la complexité », a déclaré Andrew Murphy (photo, à droite), directeur principal de la gestion des produits chez DDN. « La question est de savoir comment pouvons-nous aider à décharger nos clients de cette complexité afin qu'ils puissent se concentrer sur ce qui est le plus important, c'est-à-dire récupérer les données qu'ils ont générées au fil des ans… (et) ajouter du contexte afin qu'elles puissent être prêtes pour leurs usines d'IA.
Murphy, aux côtés Michael Ang (à gauche), directeur des solutions de stockage chez Supermicro, et Pompée Nagra (au centre), responsable des produits et des écosystèmes chez Solidigm, s'est entretenu avec le responsable de theCUBE Rob Strechay pour le Série d'entretiens avec le Supermicro Open Storage Summitlors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la collaboration et des nouvelles tendances en matière d’IA d’entreprise. (* Divulgation ci-dessous.)
Une solution de stockage unifiée
Alors que les clients achètent traditionnellement des plates-formes individuelles de stockage, de mise en réseau et de calcul et créent leurs propres solutions, cette stratégie prend souvent beaucoup trop de temps, selon Ang. Selon lui, la meilleure méthode consiste à disposer d’une solution unifiée permettant aux organisations de commencer immédiatement à monétiser leurs données.
« Le défi numéro un est que (les clients) ont toujours la mentalité de devoir acheter des éléments individuels (calcul, stockage, réseau) et les assembler, mais cela prend beaucoup de temps », a déclaré Ang. « Afin de les aider à réussir dans ce domaine, le client doit se concentrer sur la manière d'obtenir les bonnes solutions avec les bonnes plates-formes afin que… ils puissent commencer à les utiliser et commencer à effectuer les charges de travail d'IA. »
La collaboration HyperPOD peut utiliser différents types de mémoire flash pour répondre à différentes tâches d'IA, a ajouté la Nagra. Étant donné que les disques SSD réutilisent les charges de travail d’IA sans nécessiter de recalcul, les clients tirent davantage parti de leurs unités de traitement graphique.
« Nous voyons les plates-formes passer du calcul au stockage, où les LLM ont besoin de plus de données vers plus de stockage pour activer les données de cache (valeur clé) », a déclaré Nagra. « Le stockage SSD devient d'une grande valeur car sa capacité est limitée par rapport à la (mémoire à large bande passante) ou à la mémoire principale, ce qui nécessite de plus grandes quantités de recalcul pour la même charge de travail. »
DDN a travaillé en étroite collaboration avec la conception de référence Nvidia AI Data Platform pour offrir une solution clé en main qui réduit la complexité pour les clients et peut être déployée sur site, donnant aux organisations un meilleur contrôle sur la sécurité, la gouvernance et la résidence des données. La technologie prend également en charge la multilocation, ce qui signifie que plusieurs équipes peuvent partager le calcul, la mise en réseau et le stockage tout en gardant leurs environnements séparés.
« La plupart du temps, les GPU restent inactifs, attendant les données », a déclaré Murphy. « C'est vraiment ce sur quoi nous nous concentrons du point de vue du DDN… comment pouvons-nous nous assurer que nous fournissons un chemin rapide pour utiliser pleinement les GPU afin que les clients puissent tirer le meilleur parti de leurs investissements, ils puissent tirer le meilleur parti de leurs données pour faire avancer leurs initiatives. »
L’IA souveraine met l’accent sur le contrôle des données
Les entreprises et les organisations gouvernementales recherchent de plus en plus de solutions d’IA privées ou souveraines, selon le panel. La conception de référence sécurisée de Nvidia offre cette confidentialité et cette sécurité, tout en donnant aux clients la possibilité d'être flexibles dans la manière dont ils traitent leurs données.
« Si vous regardez les organisations, elles ont toujours voulu contrôler leurs données, leur propriété intellectuelle, et surtout leurs coûts », a déclaré Nagra. « Pouvoir contrôler tous ces éléments permet une plus grande flexibilité… et en fin de compte, leur permet de vivre dans la gouvernance qu'ils ont orchestrée, que ce soit sur site avec les plateformes fournies par DDN et Supermicro, ainsi que dans des environnements hybrides.
En plus d'offrir une flexibilité environnementale, HyperPOD peut également évoluer si nécessaire, ce qui minimise l'exposition aux coûts. Plutôt que d’avoir à s’engager dans un grand nombre de GPU coûteux, les clients peuvent essayer la solution avec un seul rack, puis en ajouter d’autres si nécessaire.
« Nous sommes en mesure de concevoir cette solution complète de plate-forme de données d'IA qui permet au client de s'étendre de petite, moyenne ou grande taille », a déclaré Ang. « Cela signifie qu'ils peuvent continuer à gérer leur entreprise lorsqu'ils constatent un besoin de GPU et d'utilisations de stockage supplémentaires. Il leur suffit d'installer un autre rack à côté, de connecter les câbles réseau, de l'allumer, puis de continuer en ligne et de servir les clients. »
Restez à l'écoute pour l'interview vidéo complète, qui fait partie de la couverture par SiliconANGLE et theCUBE du Série d'entretiens avec le Supermicro Open Storage Summit.
(* Divulgation : TheCUBE est un partenaire média payant pour la série d'interviews du Supermicro Open Storage Summit. Ni Supermicro, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
