Parcourez n’importe quelle publication du secteur et vous constaterez la même histoire : les coûts du cloud sont hors de contrôle et les entreprises se démènent.
La technologie sur laquelle tout le monde mise pour stimuler la croissance aggrave le problème : environ 55 % des personnes interrogées lors d’une récente enquête de PricewaterhouseCoopers International Ltd. déclarent qu’elles n’ont pas encore vu le moindre avantage des outils d’intelligence artificielle.
La solution souvent proposée est FinOps, qui met l'accent sur de meilleurs tableaux de bord, une gouvernance plus stricte et des prévisions plus intelligentes. Mais les déchets ne cessent de croître. Les entreprises brûlent encore plus d’un quart de leurs budgets cloud, et même si les outils mesurent l’hémorragie, ils ne l’arrêtent pas.
Ce qui manque, c'est un regard honnête sur ce qui fait réellement grimper la facture. J'ai passé deux décennies chez Microsoft Corp. et SAP SE à observer les entreprises optimiser les parties visibles de la pile tandis que le moteur en dessous se mettait à rude épreuve. Les coûts du cloud aujourd’hui sont la même chose.
Les factures cloud n’explosent pas de manière spontanée. Ils correspondent aux coûts de traitement des données. L’IA a transformé le traitement des données en quelque chose que les architectures cloud n’ont jamais été conçues pour gérer.
Pourquoi l'IA brise le modèle cloud
Avant que l’IA ne soit omniprésente dans les conseils d’administration, les entreprises ont passé une décennie à développer des analyses cloud. Les ensembles de données étaient structurés et les charges de travail s'exécutaient par lots selon des calendriers prévisibles. Le traitement des données était gérable parce que les aspects économiques fonctionnaient.
L'IA a fait exploser ça. Les lots sont devenus continus, les échantillons de données sont devenus des ensembles de données complets et les tâches planifiées sont devenues des pipelines en temps réel sur des données multimodales. Le volume, la fréquence et la complexité du traitement des données ont changé, mais pas l'architecture sous-jacente.
Voici la partie dont personne ne parle : même après avoir dépensé plus chaque année, la plupart des entreprises ne traitent qu'une petite fraction de leurs données dans le cloud, car tout y faire exploser les budgets. Ils paient plus pour le cloud et l’exploitent plus difficilement, mais la plupart des données réellement nécessaires à l’IA restent intactes.
Le correctif que FinOps ne peut pas atteindre
Les entreprises qui infléchissent la courbe des coûts ne le font pas avec FinOps ; ils réparent la couche de traitement des données.
Les moteurs d'aujourd'hui ont été construits pour des clusters d'unités centrales identiques, mais l'infrastructure moderne couvre les processeurs, les unités de traitement graphique, les réseaux de portes programmables sur site et les accélérateurs personnalisés dispersés dans les nuages. Le logiciel n'a pas rattrapé son retard. Les charges de travail s'exécutent toujours sur des configurations universelles qui ne peuvent pas acheminer les tâches vers le bon matériel, laissant des accélérateurs coûteux inactifs pendant que les clusters de processeurs atteignent leur maximum.
Les GPU effectuent certaines opérations 10 à 100 fois plus rapidement que les CPU, mais seulement si le logiciel sait où envoyer le travail. Lorsque le moteur de traitement de données d'une entreprise suppose l'homogénéité du processeur dans un monde hétérogène, elle paie pour du matériel de nouvelle génération uniquement pour bénéficier des performances existantes.
La solution est de remédier à cette inadéquation. Reconstruisez les bases de ce qu'exige réellement l'IA afin que les charges de travail soient acheminées vers le matériel qui a du sens. Le résultat est que les coûts chutent fortement. J'ai vu une grande plate-forme de commerce électronique qui traite quotidiennement un demi-pétaoctet de données réduire ses coûts de 80 % sans modification de code ni migration. Une plateforme sociale au service de 350 millions d’utilisateurs a réduit ses coûts de 50 % en utilisant le même schéma.
Ce qui fonctionne réellement
Le FinOps a un rôle à jouer, mais les tableaux de bord, la gouvernance et les prévisions sont des outils permettant d'ajuster un modèle fonctionnel, et non de réparer un modèle défectueux.
Tant que les pipelines d’IA fonctionneront sur une infrastructure conçue pour l’analyse par lots, les coûts augmenteront, quel que soit le niveau de gouvernance. Vous pouvez le prévoir, le créer un tableau de bord et attribuer des centres de coûts et des équipes de rétrofacturation, mais le moteur en dessous gaspille toujours de l'argent.
Les entreprises qui résolvent le problème de l'économie des données peuvent traiter des ensembles de données complets à des coûts qui ne nécessitent pas de batailles budgétaires trimestrielles. Les autres continueront de regarder les coûts augmenter tandis que les rendements diminueront, en regardant les tableaux de bord FinOps qui montrent exactement où est passé l'argent, mais ne leur disent pas comment le conserver.
