Dell Technologies Inc. et son partenaire Advanced Micro Devices Inc. sont confrontés à des pressions concurrentielles similaires. Les deux puissances technologiques opèrent dans un climat commercial où le succès se mesure désormais en termes d’unités centrales de traitement, d’unités de traitement graphique, de systèmes rackables, de capacité de mémoire, de bande passante réseau et de jetons par dollar.
La pression exercée pour rivaliser sur ces mesures souligne ce que TheCUBE Research a appelé la « vitesse d’ingénierie ». Depuis l'événement Dell Technologies World en mai, AMD et Dell n'ont pas ralenti le rythme de leurs collaborations et de leurs annonces.
AMD et Dell travaillent à la création d'une infrastructure d'IA d'entreprise capable de suivre l'évolution des charges de travail et des exigences des clients.
« En matière d'infrastructure d'IA, le gagnant n'est peut-être pas l'entreprise ayant le meilleur benchmark lors de la journée d'ouverture », a déclaré Dave Vellante de theCUBE Research. « Il s'agira probablement de l'entreprise dont le système d'ingénierie apprend, valide et améliore l'ensemble de la plateforme plus rapidement que quiconque. »
Cette fonctionnalité fait partie de l'exploration par SiliconANGLE Media des changements architecturaux qui alimentent l'IA continue de qualité production. N'oubliez pas de consulter l'événement « Dell AI Data Platform : De l'ambition à l'IA à grande échelle » du CUBE et sa couverture passée du Dell Technologies World de cette année. (* Divulgation ci-dessous.)
Consolidation à l'échelle du rack
La pierre angulaire de la relation entre Dell et AMD est le portefeuille PowerEdge du géant des serveurs. Dell a élargi sa gamme de serveurs PowerEdge en mai et a donné des détails supplémentaires concernant l'intégration des processeurs AMD.
Les deux sociétés ont poursuivi une stratégie conçue pour faciliter la consolidation des serveurs, alors que l’IA agentique entraîne une augmentation de la demande de calcul à usage général. Les agents dépendent fortement des processeurs, mais les centres de données ne disposent pas de beaucoup d'espace supplémentaire pour ajouter des serveurs dans des salles déjà remplies de GPU.
Les systèmes alimentés par des processeurs AMD offriront des gains de performances de 70 % d'une génération à l'autre et pourront regrouper 13 serveurs de la 14e génération PowerEdge de Dell en un seul, selon Pradyumna Narendra, planificatrice produit et consultante principale chez Dell.
« Pour chaque tranche de 10 à 13 serveurs que vous remplacez, vous récupérez une grande partie de ce gain de productivité, car vous pouvez désormais le faire avec un seul serveur », a-t-il déclaré au CUBE. « Lorsque vous étendez cela à l'ensemble des centres de données, c'est comme un effet d'accélération dont vous pouvez tirer profit. »
Dell et AMD doivent également s'adapter à une multitude de cas d'utilisation de l'IA et à la demande de calcul qui en découle. Le serveur Dell à trois unités de rack nécessite moins d'énergie pour le refroidissement qu'un équivalent à deux unités, ce qui permet aux clients d'intégrer plus de puissance de calcul dans chaque rack, selon Narendra.
« En déployant des serveurs légèrement plus grands, vous obtenez plus de densité au niveau du rack, ce qui semble parfois contre-intuitif », a-t-il expliqué. « À mesure que l'IA s'accélère, l'inférence et l'IA agentique qui l'entoure vont s'accélérer et se développer plus rapidement. À mesure que ces cas d'utilisation évoluent, vous obtenez une croissance exponentielle des besoins en calcul. »
Déploiement et validation modulaires
Au-delà de la consolidation des serveurs, Dell et AMD ont progressivement amélioré une solution modulaire pour simplifier le déploiement et la mise à l'échelle de l'IA : la plateforme Dell AI avec AMD.
La solution d'IA d'entreprise sur site intègre les accélérateurs AMD Instinct et les processeurs EPYC avec les serveurs Dell PowerEdge, la mise en réseau PowerSwitch et le stockage PowerScale pour la formation de modèles, le réglage fin et l'inférence à haut débit. La plateforme est conçue pour permettre aux clients de commencer avec des configurations qui répondent aux charges de travail actuelles et d'augmenter la densité de calcul et de GPU au fil du temps, sans réarchitecture.
« Nous constatons que les clients veulent des solutions modulaires. Ils veulent réfléchir à (des solutions) sur l'ensemble de la plate-forme », a déclaré Varun Chhabra, vice-président senior du groupe de marketing produit et de solutions d'infrastructure chez Dell, lors d'une discussion avec theCUBE. « Calcul, stockage, réseau (et) GPU. Le framework logiciel en plus, les modèles : ont-ils tous été testés ? Ont-ils tous été validés ? »
Dell a intégré la pile logicielle AMD ROCm dans la plate-forme pour prendre en charge la formation, le réglage fin et la gestion de grands modèles linguistiques sur site. La plate-forme modulaire permet aux clients de commencer avec des déploiements plus petits et de se développer sur la même infrastructure, selon Chhabra.
« Vous pouvez commencer petit avec ces unités composables de stockage, de calcul et de mise en réseau, pré-intégrées aux processeurs AMD Instinct et EPYC avec le logiciel ROCm ainsi qu'à l'écosystème ouvert qui se trouve au-dessus », a-t-il déclaré. « Nous le testons, nous le validons, et les clients peuvent l'utiliser et une fois qu'ils commencent à y voir de la valeur, ils savent qu'ils peuvent évoluer de manière modulaire avec les mêmes frameworks. »
Tirer parti des avantages du PCIe
Dell a annoncé la prise en charge des GPU AMD Instinct MI350P PCI Express dans ses serveurs PowerEdge XE7745 et R7725 à partir de juillet, offrant aux entreprises une autre option pour faire évoluer les déploiements d'IA agentique et générative. Cela représente également une augmentation importante de la bande passante mémoire, ce qui est important pour la latence du premier jeton.
Le MI350P offre 144 Go de mémoire HBM3E, ce qui peut constituer un différenciateur clé en termes de performances d'inférence, selon Mike Darby, directeur principal du développement commercial des GPU Instinct Data Center chez AMD, lors d'une apparition sur theCUBE.
« C'est beaucoup de mémoire, mais c'est aussi du HBM3E, donc (il a) une quantité incroyable de bande passante », a-t-il déclaré. « Le principal cas d'utilisation est l'inférence : tout dépend de la latence, du temps nécessaire au premier jeton (et) de l'expérience utilisateur, afin que votre capacité d'attention ne se déplace pas ailleurs pendant que vous attendez votre réponse. »
La collaboration entre AMD et Dell sur l'intégration PCIe présente un autre angle qui mérite d'être surveillé. Le GPU basé sur PCIe d'AMD prend en charge les déploiements refroidis par air, offrant aux utilisateurs un moyen de déployer l'IA au sein de l'infrastructure de centre de données existante.
Alors que l’industrie technologique a rencontré une résistance ces derniers mois à la construction de grands centres de données aux États-Unis, les inquiétudes se sont concentrées sur l’impact environnemental et l’utilisation de systèmes de refroidissement à base d’eau. Par ailleurs, Dell a constaté que, lors du déploiement de ses serveurs PowerEdge de nouvelle génération, certaines entreprises clientes n'étaient toujours pas prêtes à adopter le refroidissement liquide dans les centres de données.
« En travaillant avec Dell, nous avons ajouté une carte PCI à notre feuille de route refroidie par air pour GPU Instinct afin qu'elle s'adapte à davantage de serveurs Dell PowerEdge destinés à l'entreprise au sens large », a déclaré Robert Hormuth, vice-président de l'architecture et de la stratégie du Data Center Solutions Group chez AMD, lors d'une conversation avec theCUBE. « Tout le monde n'adopte pas le refroidissement liquide direct. »
Collaboration sur un marché ouvert
Le travail de Dell avec AMD cette année s'est étendu au-delà des annonces de produits conjointes. En juin, les deux sociétés ont annoncé un partenariat avec l'Université de Cambridge pour créer un Sovereign AI Innovation Lab (SAIL) au Royaume-Uni.
La collaboration est conçue pour contribuer à faire progresser la prochaine génération d’infrastructures d’IA et les percées scientifiques basées sur l’IA. Il s'appuie sur l'infrastructure élargie de recherche en IA de Cambridge, notamment le supercalculateur Zenith AI, alimenté par des processeurs AMD EPYC de cinquième génération et des accélérateurs GPU AMD Instinct MI355X intégrés à l'infrastructure Dell.
Dell et AMD ont également collaboré ces derniers mois sur une initiative de télécommunications avec AT&T Inc. Les données télécoms représentent un poids lourd en matière d'IA, AT&T ayant traité plus d'un billion de jetons pour former des modèles. AMD a fourni une base matérielle hautes performances pour les charges de travail de formation et d'inférence impliquant les modèles OTel 2.0 développés dans le cadre de l'initiative Open Telco AI.
Dell a intégré cette technologie à des serveurs optimisés pour l'IA pour les environnements de télécommunications afin de créer une base de qualité de production pour les opérateurs dans des environnements réseau réels à forte intensité de données. L'infrastructure de formation d'OTel 2.0 utilise le serveur Dell PowerEdge XE9785 configuré avec huit GPU MI355X.
L'alliance entre Dell et AMD met en évidence un développement clé sur le marché en pleine croissance des infrastructures d'IA : il existe de nombreuses opportunités de concurrence. Dell et AMD semblent tous deux déterminés à créer des portefeuilles offrant aux entreprises des choix en matière de solutions de traitement de l'IA.
« AMD n'a pas présenté ses nouveaux produits… comme des 'alternatives respectables' », a déclaré Vellante. « Il a revendiqué un leadership absolu en matière de processeurs, de GPU, de performances à l'échelle du rack, de capacité de mémoire, de bande passante réseau et de jetons par dollar. Il a étendu l'argument à l'IA d'entreprise, à la robotique, à l'inférence à très faible latence et à un écosystème de partenaires en expansion rapide. «
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Dell AI Data Platform. Ni Dell, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
