La conception de l'infrastructure est redéfinie par l'IA agentique, poussant l'industrie vers une optimisation de l'infrastructure de l'IA au niveau du système, en équilibrant les performances et les coûts entre diverses charges de travail plutôt que de se concentrer uniquement sur des puces plus rapides. À mesure que l’inférence évolue et que l’IA se rapproche des utilisateurs, les architectures informatiques modulaires et hétérogènes deviennent le fondement de la prochaine vague d’IA d’entreprise.
Agentic AI introduit des charges de travail complexes de bout en bout qui obligent Advanced Micro Devices Inc. à concevoir et à mettre en œuvre son infrastructure de manière plus globale que jamais, selon Mark Papermaster (photo), directeur de la technologie et vice-président exécutif d'Advanced Micro Devices.
« Les charges de travail sont si complexes parce que les gens examinent ce qu'ils font de bout en bout. Ils examinent des processus complets, et non pas une seule tâche sur mesure », a déclaré Papermaster. « Cela signifie que vous avez besoin de différents moteurs informatiques et qu'ils doivent fonctionner ensemble à grande échelle. Nous parlons de clusters massifs de racks. »
Papermaster s'est entretenu avec John Furrier de theCUBE au RAISE Summit, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de l’évolution vers l’optimisation de l’infrastructure d’IA au niveau du système et de l’importance croissante des architectures modulaires et hétérogènes pour l’IA d’entreprise. (* Divulgation ci-dessous.)
Optimisation de l'infrastructure d'IA au niveau du système
Pour répondre à cette demande, AMD a élargi son portefeuille grâce aux acquisitions de Xilinx, Pensando et ZT Systems, passant du statut de concepteur de puces à celui d'optimiseur de système au niveau rack. La pile logicielle unifiée de l'entreprise, ROCm, fonctionne de manière identique sur les grands clusters de centres de données, les déploiements périphériques et les PC compatibles IA, offrant ainsi aux entreprises un moyen d'acheminer les charges de travail vers le niveau de calcul le plus rentable sans remplacer l'infrastructure x86 existante.
« Pour la plupart des entreprises, cela coûte très cher si vous exécutez tout dans le cloud ou dans un grand centre de données », a déclaré Papermaster. « Ils cherchent à exécuter cela de manière plus économique, et souvent à la périphérie, cela doit être fait localement car vous avez besoin d'une réponse en temps réel. Nous l'avons fait non seulement pour notre CPU et notre GPU, mais aussi pour les processeurs neuronaux intégrés que nous avons sur les PC, ainsi que pour la périphérie intégrée. »
Voici l'interview vidéo complète, faisant partie de la couverture du RAISE Summit par SiliconANGLE et theCUBE :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement RAISE Summit. Ni Solidigm, le sponsor principal de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
