La demande en infrastructures d’intelligence artificielle a dépassé l’offre disponible, et le déséquilibre modifie la manière dont les entreprises achètent la technologie. L’ancienne tactique consistant à attendre une remise de fin de trimestre risque désormais de laisser un projet bloqué pour le matériel.
Peu d'entreprises sont plus proches de ce changement que Dell Technologies Inc., dont les ventes de serveurs d'IA ont généré de solides bénéfices au cours de son dernier trimestre, même si les coûts des composants ont augmenté. Gagner sur ce marché dépend moins de la réponse aux demandes de propositions que de la planification aux côtés des clients bien avant leur publication, selon David Schmoock (photo), vice-président senior des opérations de revenus mondiaux chez Dell.
Plus tôt cette année, de nombreux acheteurs n’avaient pas vu venir la pénurie. « Je pense que c'est une période de turbulences », a déclaré Schmoock. « Je pense que les gens se réveillent et se disent que nous devons planifier des horizons à plus long terme. »
Schmoock s'est entretenu avec Dave Vellante de CUBE Research au Dell Technologies New York Symposium, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont expliqué comment les contraintes d'approvisionnement, la refonte des flux de travail et l'économie des jetons changent la façon dont Dell et ses clients planifient l'IA. (* Divulgation ci-dessous.)
Planifier plus tôt dans une chaîne d’approvisionnement en IA contrainte
La demande a commencé à s'accélérer en novembre dernier, et la montée en puissance des serveurs d'unités de traitement graphique pour l'IA a entraîné avec elle les serveurs x86 standard, a expliqué Schmoock. Jeff Clarke, directeur de l'exploitation de Dell, a déclaré aux investisseurs en septembre que les pénuries s'étaient étendues au-delà de la mémoire, du stockage et des unités centrales de traitement, aux composants de refroidissement, de réseau et d'alimentation au niveau des racks. Dans cet environnement, Dell demande à ses clients de partager leurs plans de déploiement bien plus tôt que lors des cycles matériels précédents.
« La clé, cependant, est de savoir comment planifier avec nos clients plus tôt ? Si vous nous contactez tard dans notre cycle, oui, nous répondrons (à une demande de proposition) comme n'importe qui d'autre », a-t-il déclaré. « Mais vous n'auriez pas cette planification collaborative qui pourrait retarder votre déploiement. »
La conversation avec les acheteurs a également changé. Le prix dominait autrefois les négociations, mais le marché entre dans une période d'inflation des coûts, et les clients pour qui la technologie est un produit, comme les traders à haute fréquence, ont été parmi les premiers à garantir des délais de livraison, selon Schmoock.
Au-delà de la sécurisation du matériel, les entreprises doivent également reconsidérer la manière dont elles déploient l’IA pour tirer le meilleur parti de leurs investissements. Dell partage ce qu'il a appris de son propre déploiement d'IA, et la plus grande leçon est que l'ordre compte : repensez d'abord les flux de travail, puis corrigez la couche de données.
« Si vous appliquez simplement l'IA aux processus existants, vous obtiendrez une légère amélioration de la productivité », a déclaré Schmoock. « Vous n'obtiendrez pas les (gains décuplés) que nous souhaitons tous conduire. »
Cette approche a aidé Dell à dissocier la croissance des revenus des dépenses d'exploitation, qui augmentaient traditionnellement en parallèle, a-t-il noté. Le prochain défi consiste à gérer une base de coûts qui associe les personnes aux jetons IA. Il a comparé la tâche à un plafond salarial de la Ligue nationale de football : une équipe ne peut se permettre qu'un seul quart-arrière vedette, elle doit donc remplir le reste de la liste avec des joueurs à moindre coût qui contribuent toujours.
« Penser aux jetons n'est pas différent. Vous ne pouvez utiliser que des modèles frontières pour une grande partie de votre travail », a-t-il déclaré. « Vous devrez utiliser des versions plus anciennes, vous devrez utiliser des modèles open source, vous devrez utiliser l'apprentissage automatique. »
Tout comme les entreprises doivent équilibrer le coût des différents modèles d’IA, elles doivent également planifier l’infrastructure plus large qui prend en charge leurs charges de travail. L’IA ne consiste pas seulement à acheter des serveurs GPU, a-t-il déclaré ; cela implique également des charges de travail x86 traditionnelles qui ne nécessitent pas de jetons, ainsi que des ordinateurs de bureau et des postes de travail capables d'exécuter des inférences en périphérie. Les clients qui arrivent trop tard dans le processus laissent Dell se démener pour s'approvisionner.
« Nous n'avons pas fait cette planification collaborative, et maintenant votre projet a peut-être été retardé de 60, 90, 120 jours, ce qui a à la fois un impact financier et un impact commercial », a déclaré Schmoock, décrivant le coût d'une arrivée tardive dans une chaîne d'approvisionnement en IA tendue. « Je dirais de nous amener plus tôt. Permettez-nous de faire cette collaboration avec vous. Je pense qu'en fin de compte, vous obtenez le résultat le plus optimal. »
Voici l'interview vidéo complète, faisant partie de la couverture par SiliconANGLE et theCUBE du Dell Technologies New York Symposium :
(* Divulgation : TheCUBE est un partenaire média payant pour le Dell Technologies New York Symposium. Ni Dell, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
