Les sociétés d’intelligence artificielle se battent pour contrôler les couches d’infrastructure, de données et de logiciels qui alimenteront l’intelligence d’entreprise.
Nvidia Corp. reste loin en avance en matière de calcul accéléré, mais Advanced Micro Devices Inc., Broadcom Inc. et d'autres challengers se positionnent pour un marché dans lequel la demande peut soutenir plusieurs gagnants. Dans le même temps, IBM Corp. est sous pression pour prouver que ses logiciels, ses données et ses actifs de cloud hybride peuvent s'assurer une place dans la pile émergente d'IA.
Le prochain avantage concurrentiel viendra de la transformation des données propriétaires et de l'expertise du domaine en un système interne capable de raisonner et d'exécuter le travail, selon John Furrier (photo, à gauche), analyste exécutif chez theCUBE Research.
« Le cœur d'une entreprise du futur est le cerveau de l'entreprise, les données dont elle dispose », a déclaré Furrier. « Peut-il être organisé de manière à raisonner – système de renseignement, systèmes d'exécution, systèmes d'action ? Peuvent-ils raisonner ? »
Dans le dernier épisode de theCUBE Pod, Furrier et Dave Vellante (à droite), analyste en chef chez theCUBE Research, ont discuté des défis d'exécution d'IBM, de l'avance de Nvidia en matière d'infrastructure et des opportunités croissantes pour AMD et Broadcom. Ils ont également examiné les modèles d’IA ouverts et fermés, l’économie des jetons et la course à la construction d’un système d’intelligence d’entreprise.
IBM fait face à un test d'exécution de l'IA
La forte baisse des actions d'IBM a suscité des spéculations selon lesquelles l'adoption de l'IA en entreprise progresse plus lentement que prévu. Les performances d'IBM en disent plus sur le portefeuille et l'exécution de l'entreprise que sur la santé du marché plus large de l'IA, selon Furrier et Vellante.
Une grande partie des dépenses d'infrastructure actuelles sont destinées aux hyperscalers, aux fournisseurs de néocloud et aux fabricants de puces. Les activités mainframe et infrastructure d'IBM ne sont pas aussi étroitement alignées sur cette croissance, tandis que ses nouvelles offres d'IA n'ont pas encore connu une croissance suffisante pour compenser la pression exercée sur les produits plus anciens.
« Leur activité d'infrastructure n'est pas alignée sur la vague du secteur. Ils ont des mainframes », a déclaré Vellante. « Ce qui se passe toujours dans ces vagues, c'est le nouveau n'est pas assez important pour compenser le déclin de l'ancien, et je pense que c'est ce qui se passe avec IBM.
IBM dispose de nombreux atouts nécessaires pour participer à l'IA d'entreprise, notamment Red Hat, Watsonx, des logiciels de gouvernance et un large portefeuille de données. La pièce manquante est un système d’intelligence unifié qui relie les données, le contexte, le raisonnement et les applications. Databricks Inc., Snowflake Inc. et les hyperscalers sont déjà en compétition pour cette position. IBM possède les composants, mais ne les a pas assemblés dans une plate-forme qui mérite la même attention, selon Vellante.
« Ils ont tous les ingrédients, mais ils ne les rassemblent pas de cette façon », a-t-il déclaré. « Leur portefeuille de logiciels pourrait l'être. Ils ont juste besoin d'un peu plus de concentration, à mon avis. »
Furrier a rejeté les appels visant à démanteler IBM, décrivant son problème principalement comme un problème d'exécution. Les entreprises peuvent également retarder leurs décisions en matière de logiciels pendant qu'elles reconstruisent les pipelines de données et préparent l'infrastructure pour les charges de travail agents.
« Je pense qu'il n'y a rien de mal avec IBM autre que l'exécution », a-t-il déclaré. « Je pense qu'ils auraient pu être plus spécifiques aux données dans ce système de renseignement. Ils avaient toutes les pièces détachées. C'est juste une concentration, n'est-ce pas ? »
L'avance de Nvidia laisse la place aux challengers
Nvidia reste la force dominante en matière de calcul accéléré, soutenue par ses unités de traitement graphique, ses réseaux, ses logiciels et son architecture à l'échelle rack. Vellante s'attend à ce que l'entreprise conserve entre 75 % et 80 % du marché de l'informatique accélérée par l'IA. Cette domination n’élimine pas les opportunités pour AMD et Broadcom. La demande d’infrastructures d’IA augmente suffisamment rapidement pour que les concurrents puissent créer de grandes entreprises sans supplanter Nvidia.
AMD s'est étendu au-delà des unités centrales de traitement grâce aux accélérateurs graphiques, aux capacités de mise en réseau et aux systèmes. Ses acquisitions de Xilinx Inc., Pensando Systems Inc. et ZT Systems ont contribué à transformer l'entreprise en un fournisseur d'infrastructures plus large.
« (Lisa Su, PDG d'AMD) compresse essentiellement 20 ans de développement d'écosystème par Nvidia, et elle compresse cela en cinq ans d'allocation de capital », a déclaré Vellante. « Quand on y pense, ce qu'elle a fait est vraiment remarquable, car elle reconnaît qu'elle doit évoluer à la vitesse de Nvidia. »
Broadcom poursuit une opportunité différente grâce au silicium et aux réseaux personnalisés. Furrier s'attend à ce que davantage d'alternatives émergent à mesure que les entreprises recherchent des systèmes d'inférence plus petits et moins coûteux, capables de fonctionner en dehors des centres de données hyperscale.
« Tout ce que fabriquent AMD et Nvidia se vendra ; Nvidia en particulier parce qu'ils sont le leader », a déclaré Furrier. « Mais les entreprises doivent commencer à réfléchir au budget de l'infrastructure d'IA parce qu'elles n'ont pas les moyens financiers. »
Les entreprises se précipitent pour développer l’intelligence d’entreprise
La plus grande valeur pourrait finalement se situer au-dessus de la couche infrastructure. Les entreprises devront connecter des informations propriétaires, des connaissances du domaine, des modèles et des applications dans des systèmes capables de raisonner et d’agir.
Ce cerveau d’entreprise aura besoin de bases de données relationnelles, vectorielles et graphiques, de pipelines de données gouvernés et de modèles spécialisés fonctionnant aux côtés de modèles à usage général. Furrier s'est demandé pourquoi les entreprises sous-traiteraient toutes ces informations à un petit nombre de fournisseurs de modèles.
« Si vous êtes une entreprise et que vous devez bâtir un avantage concurrentiel pour les 20 prochaines années, vous devez développer le cerveau, l'intellect, l'intelligence et la cognition de l'entreprise », a-t-il déclaré.
Selon Furrier et Vellante, OpenAI, Anthropic PBC et d'autres sociétés modèles devront approfondir leur développement logiciel et créer des écosystèmes autour de modèles spécialisés. Les modèles à poids ouvert augmenteront également la concurrence, même s’ils pourraient ne pas rivaliser avec les systèmes pionniers en termes de capacité et d’efficacité.
Parallèlement, les entreprises deviennent plus disciplinées en matière de coûts de l’IA. L’accent n’est plus mis sur la consommation du plus grand nombre de jetons mais sur la mesure de l’efficacité avec laquelle l’IA produit un résultat utile. Selon Furrier, les entreprises pourraient commencer à utiliser des ratios token/valeur pour relier la consommation du modèle à des résultats mesurables. Ce changement pourrait créer une version IA des opérations financières, les organisations surveillant les dépenses, les performances et les rendements en temps réel.
« À l'heure actuelle, en temps réel, vous pouvez réellement associer la valeur au résultat et vous dire : OK, vous avez créé une application, tout le monde l'utilise. C'est bien. Ou vous avez créé une application et personne ne l'utilise », a déclaré Furrier.
Les travailleurs humains resteront impliqués, mais leurs rôles changeront. Plutôt que d’accomplir chaque tâche eux-mêmes, les gens géreront le contexte, valideront les résultats et superviseront les systèmes d’IA. Les gagnants seront les entreprises qui combinent infrastructure, intelligence et jugement humain dans un modèle opérationnel fiable, selon Furrier et Vellante.
La conversation a également donné un aperçu de la prochaine couverture par theCUBE des événements Advancing AI d'AMD et GraphTalk de Neo4j. Restez à l’écoute pour plus de rapports et d’entretiens alors que theCUBE continue de suivre les couches d’infrastructure, de données et de logiciels qui façonnent l’IA d’entreprise.
Voici l'épisode complet du theCUBE Pod de cette semaine :
