En apparence, le lancement de Vera Rubin cette semaine est un autre moment majeur pour Nvidia Corp., car la société maintient un rythme constant d'innovation en matière d'infrastructure d'intelligence artificielle.
Nvidia positionne Vera Rubin comme un système complet conçu pour améliorer les performances par watt et réduire les coûts des jetons, avec une production accélérée à travers une large base de partenaires mondiaux, y compris des fournisseurs d'infrastructures cloud et d'IA. Nvidia affirme que la plate-forme s'étend sur sept puces co-conçues, intègre de nouveaux réseaux et est déjà déployée par des partenaires tels que CoreWeave, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure.
Cependant, le plus important n’est pas que Nvidia ait lancé un autre système d’IA, puisque ce n’est pas nouveau pour le roi de l’IA. L'entreprise fait plutôt valoir de manière agressive que l'ère de l'IA, en particulier la montée de l'IA agentique, nécessite de repenser l'unité centrale de traitement, le réseau et l'architecture du système comme un problème de conception unique et interdépendant plutôt que comme un tas de pièces de pointe. C'est pourquoi Vera (photo) est importante.
De l’économie du cloud aux goulots d’étranglement agents
Pendant des années, la feuille de route des processeurs dans les centres de données a été largement façonnée par l’économie du cloud. Les hyperscalers souhaitaient davantage de cœurs, un débit plus élevé et des coûts inférieurs, ce qui récompensait les conceptions riches en chipsets optimisées pour une efficacité évolutive. Le briefing des analystes de Nvidia, ainsi qu'un autre pour les journalistes la semaine dernière, ont décrit cette époque comme une période dans laquelle le nombre de cœurs a été multiplié par neuf et les gains de performances en monothread ont doublé, laissant le marché avec des processeurs bien adaptés aux charges de travail cloud classiques mais moins adaptés au comportement sensible à la latence et aux branches lourdes des agents d'IA. Comme Hannah Coutand de Nvidia l'a expliqué lors du briefing, « l'IA demande un nouveau processeur », car « l'IA agentique remet le processeur sur le chemin critique ».
Ce cadrage est important. Dans un système agentique, l'unité de traitement graphique effectue le raisonnement, tandis que le processeur est constamment dans la boucle, gérant les appels d'outils, l'exécution de code, les requêtes, l'orchestration et la gestion des données entre les étapes de raisonnement. Ces charges de travail créent des boucles continues de raisonnement, d'action, d'observation et d'évaluation, qui exercent simultanément une pression sur les performances monothread, la bande passante mémoire, la latence et l'efficacité de la mise à l'échelle. En d’autres termes, il ne suffit pas de résoudre le problème par des cœurs plus génériques si le véritable goulot d’étranglement est le travail séquentiel entre les passes d’inférence GPU.
Inside Vera : un CPU conçu pour la boucle IA
C'est la raison centrale de la nouvelle architecture CPU de Vera. Plutôt que d'étendre le playbook conventionnel du processeur de serveur, Nvidia a construit un processeur personnalisé basé sur Arm autour de son nouveau cœur Olympus. Vera comprend 88 cœurs personnalisés, 176 threads matériels, jusqu'à 1,2 térabits par seconde de bande passante mémoire LPDDR5X, 164 Mo de cache L3 unifié et jusqu'à 1,8 To/s de bande passante CPU-GPU cohérente via NVLink-C2C.
Nvidia affirme que l'objectif de conception est ce qu'il appelle le « processeur monothread maximum à grande échelle », c'est-à-dire un processeur qui préserve une forte réactivité par cœur tout en continuant à évoluer sur des charges de travail d'agent hautement simultanées. Le briefing des analystes a rendu l’intention de conception inhabituellement claire. Coutand a déclaré que Nvidia « n'avait pas pour objectif de gagner des processeurs », mais a plutôt reconnu que « le processeur devenait un goulot d'étranglement dans l'usine d'IA » et a conçu un meilleur processeur pour améliorer « l'économie de l'usine d'IA ». C'est la stratégie classique de Nvidia : commencer par le goulot d'étranglement du système, puis construire le silicium nécessaire pour le supprimer.
Ian Finder de Nvidia a fourni les détails techniques derrière cette affirmation. Il a décrit Olympus comme un noyau personnalisé de base doté d'un moteur de décodage de largeur 10, d'une logique de réorganisation agressive et d'un outil de prélecture de graphiques optimisé pour les modèles de recherche de pointeurs courants dans les compilateurs, les structures graphiques et les environnements d'exécution des agents. Son argument était que les performances du processeur dans cette nouvelle ère consistent moins à rechercher des vitesses d'horloge qu'à augmenter la quantité de travail utile que chaque cycle peut effectuer. L’accent mis sur les instructions par cycle, la gestion des branches et le comportement de la mémoire est exactement ce à quoi on peut s’attendre si la cible est l’orchestration d’agents plutôt que le middleware d’entreprise à l’ancienne.
Fabric et mémoire : intégrer le mouvement des données au calcul
Tout aussi important, Vera rappelle que dans l’infrastructure de l’IA, le réseau n’est plus une technologie périphérique mais une partie de l’architecture de calcul.
À l'intérieur du processeur, la structure de cohérence évolutive de deuxième génération de Nvidia sert d'épine dorsale pour le mouvement des données, reliant les cœurs, les caches, les contrôleurs LPDDR5X, les interfaces d'E/S et NVLink-C2C avec une bande passante de plusieurs téraoctets par seconde. Nvidia oppose ce tissu monolithique à des conceptions basées sur des chipsets qui entraînent une « taxe sur les chiplets » sous la forme d'une latence plus élevée et d'une bande passante effective inférieure à mesure que le trafic traverse les frontières. Pour les charges de travail agents, sensibles à la latence chargée et au partage de données entre cœurs, ces différences se traduisent directement par l'utilisation du GPU et la réactivité de bout en bout.
Le sous-système mémoire suit la même philosophie. En associant le LPDDR5X à un facteur de forme de module prêt pour l'entreprise, Vera vise à fournir une bande passante élevée par cœur et une meilleure bande passante par watt que les serveurs DDR conventionnels. Dans une usine d'IA avec des milliers de serveurs déployés, la suppression de dizaines de watts de l'enveloppe CPU plus mémoire tout en augmentant la bande passante libère une plus grande part du budget d'alimentation pour les GPU et les réseaux à haut débit.
Au-delà du rack : le rôle de Spectrum-X
En dehors du CPU, la plateforme s'étend au rack et au cluster. Au sein de l’infrastructure d’IA, il existe une distinction significative entre les réseaux évolutifs et évolutifs. NVLink connecte les GPU dans un rack, leur permettant d'agir comme un accélérateur unifié avec une bande passante totale et un calcul en réseau. Spectrum-X Ethernet fournit la structure évolutive qui relie ces racks entre eux dans l'usine IA.
Spectrum-X est plus important sur le plan stratégique que beaucoup ne le pensent. Dans l’infrastructure d’entreprise traditionnelle, Ethernet peut être traité comme une couche largement modulaire. Dans les usines d’IA, le réseau affecte directement le débit, la latence, l’utilisation et, en fin de compte, l’économie des jetons. Si des modèles mixtes d'experts et de systèmes agents créent un trafic est-ouest beaucoup plus important et une coordination plus distribuée, l'Ethernet générique devient une taxe sur l'ensemble du système.
La réponse de Nvidia est une pile Ethernet spécialement conçue : des commutateurs Spectrum-6 102,4T, des SuperNIC ConnectX-9 1,6T, un routage adaptatif, un contrôle de congestion, une télémétrie et des logiciels ouverts, tous adaptés aux modèles de trafic RDMA et IA. L’objectif est de faire en sorte qu’Ethernet se comporte davantage comme une structure spécifique à l’IA tout en préservant la familiarité opérationnelle, de sorte que la mise en réseau évolutive améliore les performances de l’usine d’IA plutôt que de les affaiblir.
Le co-design extrême comme arme de compétition
Cela nous amène à la « co-conception extrême » de Nvidia. La société affirme que Vera Rubin NVL72, le rack CPU Vera, les processeurs d'infrastructure BlueField-4, la commutation Spectrum-6 et le reste de la plate-forme ont été conçus comme un système unique plutôt que assemblés à partir de produits disponibles dans le commerce distincts.
Avec l'IA agentique, les services d'infrastructure tels que la mise en réseau, le stockage, la télémétrie, la sécurité et la gestion du contexte font désormais partie du pipeline d'inférence lui-même. Cela signifie que les processeurs, les GPU, les DPU et les commutateurs doivent être réglés ensemble pour que les accélérateurs coûteux restent alimentés et productifs sans brûler les cycles du processeur hôte sur les travaux d'infrastructure.
La plupart des fournisseurs de semi-conducteurs peuvent rivaliser de manière crédible sur une seule couche de la pile ; quelques-uns peuvent en atteindre deux. NVIDIA dispose désormais d'actifs significatifs en matière de GPU, de CPU, de réseaux évolutifs, de réseaux évolutifs, de DPU, de logiciels d'interconnexion et de conception de systèmes. Cette étendue lui permet d'optimiser la production d'IA fournie (jetons par watt, coût par jeton et débit utilisable) et pas seulement les spécifications des composants.
La prochaine histoire de gain de parts de Nvidia : les processeurs
L'implication la plus intéressante de Vera pour l'industrie est que les processeurs pourraient devenir la prochaine histoire de gain de parts de Nvidia. Nvidia n’essaie pas de remplacer le x86 dans toutes les charges de travail des centres de données à usage général. Ce n’est pas nécessaire. La taille de l'entreprise suggère une importante opportunité de CPU supplémentaire liée spécifiquement aux charges de travail et aux modèles d'infrastructure basés sur l'IA. Si le rôle du processeur dans l'usine d'IA consiste de plus en plus à orchestrer les agents, à alimenter les GPU, à gérer les mouvements de mémoire et à prendre en charge l'exécution d'outils à faible latence, alors Nvidia peut tirer parti de sa domination du GPU pour intégrer son propre processeur dans la conception.
Il s’agit du même principe que l’entreprise a utilisé ailleurs : gagner le point de contrôle, puis étendre les contiguïtés. Étant donné que Nvidia possède déjà la ligne budgétaire stratégique dans l'infrastructure d'IA via les GPU, elle est particulièrement bien placée pour définir à quoi devraient ressembler le processeur, le réseau et l'unité de traitement de données environnants. L'intégration étroite de Vera avec NVLink-C2C, BlueField et Spectrum-X signifie que les acheteurs envisageant des systèmes de classe Rubin n'évaluent pas le processeur de manière isolée. Ils évaluent une architecture d’usine d’IA complète.
À court terme, cela sera particulièrement important pour les cloud IA, les hyperscalers et les grands créateurs de modèles avec des charges de travail agents ou d'apprentissage par renforcement lourdes. Cependant, au fil du temps, la définition d’un « bon » processeur de centre de données pourrait évoluer plus largement. Si Nvidia a raison, la prochaine catégorie importante de processeurs ne sera pas le cheval de bataille du cloud le moins cher ou le généraliste avec le plus grand nombre de cœurs. Ce sera le processeur qui éliminera le mieux les frictions de la boucle IA.
Réflexions finales
Le principe fondamental de mes recherches a toujours été que des changements rapides de parts de marché se produisent lorsque les marchés évoluent, et l'industrie des processeurs n'a pas connu de transition significative depuis longtemps. Mais nous sommes à l’ère de l’IA, et elle semble redéfinir toutes les industries.
Nvidia fait valoir que le futur processeur n'est plus une décision de composant autonome. Il s’agit d’une décision système, étroitement liée aux GPU, à la mémoire, aux processeurs de réseau et d’infrastructure – et Nvidia a l’intention de posséder autant de ce système que possible. Cette semaine, AMD organise son propre sommet « Advancing AI », et nous devrions avoir un bon aperçu de la manière dont il envisage de relever les défis exposés ci-dessus par Nvidia.
Zeus Kerravala est analyste principal chez ZK Research, une division de Kerravala Consulting. Il a écrit cet article pour SiliconANGLE.
