À l’intérieur de la stratégie de réseautage des usines d’IA de Nvidia : nouvelle analyse de theCUBE Research

À mesure que les entreprises mettent l’intelligence artificielle au service de la production, la mise en réseau des usines IA devient un élément central de l’équation de l’infrastructure, déterminant les performances, l’évolutivité et les coûts.

Ce changement est au centre d'une nouvelle analyse de Bob Laliberte, analyste principal chez CUBE Research. L'analyse s'appuie sur une récente discussion avec Gilad Shainer, vice-président senior des réseaux chez Nvidia Corp., animée par Laliberté et l'analyste en chef de CUBE Research, Dave Vellante.

L’argument central est que l’infrastructure d’IA d’entreprise ne peut plus être évaluée principalement par le nombre ou la vitesse de ses unités de traitement graphique. La mise en réseau, le calcul, le stockage et les logiciels doivent fonctionner comme un seul système coordonné.

Près de 95 % des organisations ayant répondu à l'étude « Networking for AI » de CUBE Research ont déclaré que le réseautage est plus important qu'il y a deux ans pour atteindre les objectifs commerciaux.

« Il s’agit d’un changement de perception remarquable qui reflète la manière dont l’IA remodèle les priorités en matière d’infrastructure », a écrit Laliberte.

Pourquoi la mise en réseau des usines IA est importante pour les charges de travail de production

Les applications d'entreprise traditionnelles s'exécutent souvent sur des serveurs individuels qui fonctionnent en grande partie de manière indépendante. La formation en IA, l'inférence distribuée, la génération augmentée par récupération et les applications agents nécessitent des GPU, des unités centrales de traitement, des unités de traitement de données et des ressources de stockage pour échanger des informations en continu.

Cela fait du réseautage d’usines d’IA plus qu’un système de déplacement de données, a expliqué Laliberté. Cela permet de déterminer si l’infrastructure distribuée fonctionne comme une plate-forme d’IA unifiée ou simplement comme un ensemble de serveurs connectés.

« Le succès d’une usine d’IA dépend de l’efficacité avec laquelle les ressources distribuées collaborent », écrit-il dans son analyse. « Le réseau ne se contente plus de transporter des informations entre des serveurs ; il coordonne le fonctionnement de tout un environnement informatique distribué. »

L'inférence de production ajoute encore plus de complexité car elle peut impliquer simultanément des processeurs, des bases de données, des plates-formes de stockage, des systèmes de récupération et des demandes d'utilisateurs entrantes. L'IA agentique augmente cette activité à mesure que les systèmes autonomes récupèrent des informations, appellent des outils et échangent du contexte à travers des flux de travail en plusieurs étapes.

Le réseau doit permettre à ces ressources de fonctionner ensemble, selon Shainer.

« Si vous souhaitez construire un supercalculateur d'IA, vous avez besoin d'un réseau qui permette à ces moteurs de calcul de fonctionner comme une seule unité », a-t-il déclaré.

L'analyse examine également la stratégie de « co-conception extrême » de Nvidia, qui traite la mise en réseau, le calcul, le stockage et les logiciels comme des éléments interdépendants d'une seule plateforme. Cette approche au niveau des systèmes devient de plus en plus importante à mesure que les environnements d’IA gagnent en ampleur et en complexité, selon Laliberté.

Ethernet occupe également une place importante dans la discussion. La plate-forme Spectrum-X de Nvidia est conçue pour réduire la congestion, la gigue et les performances inégales sur les systèmes d'IA distribués. Shainer a soutenu que la plate-forme continue de s'appuyer sur des protocoles Ethernet standard.

« Ethernet est ouvert par définition », a-t-il déclaré. « Nous n'utilisons aucun protocole propriétaire. »

Pour les entreprises, le problème le plus important est d’ordre économique. La mise en réseau peut affecter l'utilisation du GPU, la consommation d'énergie, la résilience et le coût par jeton. Des communications retardées peuvent laisser inactifs des accélérateurs coûteux, tandis que des performances réseau prévisibles peuvent aider les organisations à générer plus de rendement avec le même investissement informatique.

L'analyse complète de Laliberté examine les implications architecturales, opérationnelles et économiques du rôle croissant des réseaux dans les usines d'IA des entreprises.

Newsletter

Rejoignez notre newsletter pour des astuces chaque semaine