The Compute Exchange Inc., un marché d'approvisionnement pour la capacité réservée des unités de traitement graphique, a lancé aujourd'hui un marché dédié aux GPU usagés et remis à neuf, étendant la plate-forme à l'approvisionnement en matériel d'intelligence artificielle physique.
Le service connecte les acheteurs avec les fournisseurs de GPU Nvidia Corp. d'ancienne génération, en particulier les H100 et A100, alors que les entreprises, les fournisseurs de cloud et les startups d'IA cherchent à ajouter de la capacité sans payer pour les puces les plus récentes. Compute Exchange a déclaré que la demande sur le marché secondaire se concentre sur le matériel de production éprouvé plutôt que sur les dernières générations de GPU.
Les acheteurs soumettent des demandes de matériel et sont mis en relation avec des fournisseurs qualifiés, la plateforme fournissant une assistance en matière d'approvisionnement, de logistique et d'exécution des transactions. La société a déclaré qu'elle maintenait une position neutre sur le marché entre acheteurs et vendeurs, une structure qui, selon elle, distingue le service des canaux d'approvisionnement traditionnels.
Selon Compute Exchange, les demandes vont de centaines à des dizaines de milliers de GPU, couvrant des startups d'IA, des fournisseurs de cloud, des entreprises et d'autres opérateurs d'infrastructures recherchant une capacité supplémentaire via le marché secondaire.
« Toutes les charges de travail ne nécessitent pas la dernière génération de GPU », a déclaré Carmen Li, directrice générale de Compute Exchange et fondatrice de Silicon Data Inc. « Pour de nombreuses organisations, le matériel utilisé et remis à neuf offre le chemin le plus rapide et le plus économique pour développer l'infrastructure d'IA. Nous considérons le marché secondaire des GPU comme une étape naturelle vers une infrastructure d'IA plus efficace, transparente et accessible. »
Ce lancement témoigne d’un changement dans la manière dont les organisations abordent le matériel d’IA. Les nouveaux systèmes Blackwell de Nvidia continuent d'arriver sur le marché, mais de nombreux acheteurs constatent que les GPU H100 et A100 restent plus que capables d'exécuter des charges de travail de production à un coût nettement inférieur. Le H100, introduit en 2022, et le précédent A100 ont alimenté une grande partie de la première vague de développement de l’IA générative et restent largement utilisés dans les centres de données.
Compute Exchange a été lancé à l'origine comme un marché d'approvisionnement pour la capacité GPU réservée, offrant aux équipes d'IA un lieu unique pour sécuriser le calcul auprès de plus de 100 fournisseurs. La société considère le marché du matériel comme la prochaine étape d’une démarche plus large visant à apporter transparence et liquidité aux marchés des infrastructures d’IA, en ajoutant l’approvisionnement physique à la découverte de capacités.
Le marché accepte désormais les demandes d'organisations cherchant à acheter ou à vendre une infrastructure GPU d'occasion et remise à neuf.
