La menace cachée dans le prospectus d'Anthropic : les déséconomies d'échelle

Il s'agit potentiellement de la plus grande introduction en bourse de l'histoire, CBP anthropique innove. Son prospectus énumère 88 facteurs de risque couvrant à eux seuls 93 pages. De l’intelligence artificielle qui constitue une menace existentielle pour l’humanité à la possibilité que l’IA fasse chanter les gens, la société énumère une litanie de risques qui devraient inciter tout investisseur Anthropic potentiel à se méfier.

Un facteur de risque potentiel de naufrage de l’entreprise n’apparaît cependant pas explicitement dans le prospectus : déséconomies d'échelle.

Les déséconomies d'échelle se produisent lorsque le coût moyen de production de chaque unité de production d'une entreprise augmente à mesure que l'entreprise se développe.

On pourrait penser qu’étant donné le temps et les efforts consacrés par Anthropic pour s’assurer que sa liste de facteurs de risque était complète, ils auraient inclus celui-ci. Il y a cependant une raison pour laquelle ils n’y sont pas parvenus, même si les déséconomies d’échelle constituent l’éléphant dans la pièce.

Nous avons déjà emprunté cette voie avec le cloud computing. Le moteur économique fondamental des nuages ​​​​hyperscalers était économies d'échelle: plus ils devenaient grands, plus le coût de chaque unité de production diminuait, conduisant à une croissance et une rentabilité massives au fil du temps.

Étant donné que le boom de l’IA nécessite la construction massive de centres de données, tout comme le cloud computing, il pourrait être raisonnable de supposer que l’IA bénéficiera des mêmes avantages économiques d’une croissance massive que le cloud computing.

Cette hypothèse est cependant probablement fausse. Pour comprendre pourquoi, nous devons examiner comment les activités de logiciels et de cloud computing évoluent – ​​et pourquoi l’IA est si différente.

L’économie de la mise à l’échelle des logiciels

Tout au long de l’histoire de l’informatique d’entreprise, les logiciels ont bénéficié de leur coût marginal négligeable.

Avec les biens physiques, des automobiles aux nuggets de poulet, chaque unité a des matières premières et un coût de production. Plus vous créez de widgets, plus ces coûts s'additionnent.

Le logiciel est fondamentalement différent. Une fois qu'un fournisseur a dépensé de l'argent pour créer une application, il peut vendre cette application à autant de clients qu'il peut trouver, le coût de livraison de copies supplémentaires de cette application étant négligeable par rapport au coût initial de son développement.

Ce coût marginal négligeable permet aux éditeurs de logiciels de devenir extrêmement rentables à mesure que leur entreprise évolue.

L’aspect économique de la mise à l’échelle du cloud

Le matériel informatique, en revanche, n’est rien d’autre que des widgets : plus vous en déployez, plus vos coûts de matériaux et de production sont élevés.

Le cloud computing combine à la fois des logiciels et du matériel dans ses offres. Le logiciel peut avoir un coût marginal négligeable, mais chaque fournisseur de cloud doit débourser de l'argent pour chaque serveur physique.

Pour relever ce défi de coût, les fournisseurs de cloud profitent de économies d'échelle.

Les hyperscalers ont construit leurs cloud en déployant un nombre massif de serveurs standards. À mesure que chaque entreprise développait ses activités, le coût de chaque unité de production – par exemple le coût de fourniture d’une instance de serveur ou d’une unité de stockage cloud – diminuait.

En conséquence, le coût des serveurs a diminué à mesure qu’ils se développaient et les entreprises de cloud computing sont devenues de plus en plus rentables à mesure qu’elles se développaient, malgré le fait que leurs modèles économiques dépendaient aussi bien du matériel que des logiciels.

En quoi l’économie de l’IA diffère de celle des logiciels et du cloud

Revenons à Anthropic et aux autres grands fournisseurs de modèles de langage : apparemment, l'IA n'est qu'un type de logiciel, et Anthropic exécute ses logiciels dans des centres de données hyperévolutifs qui sont essentiellement des nuages. Cette hypothèse sous-jacente est implicite dans le prospectus de la société.

Cette hypothèse est cependant erronée. Les fournisseurs de modèles Frontier ont besoin d'unités de traitement graphique et d'autres matériels haut de gamme et coûteux dès le premier jour – et leurs besoins en processeurs spécialisés continuent de s'accélérer à mesure qu'ils innovent rapidement dans leurs logiciels.

Cette exigence croissante de processeurs spécialisés n’a pas eu d’impact sur l’essor du cloud. Certes, chaque fournisseur de cloud a finalement ajouté divers types d'instances matérielles spécialisées au fur et à mesure de sa croissance, mais ces instances n'ont pas modifié les principes économiques fondamentaux de l'activité cloud.

Anthropic, en revanche, n'a pas le luxe de déployer du matériel de base pour réaliser des économies d'échelle. Au lieu de cela, il doit construire des serveurs coûteux qui ne font que croître à mesure que les besoins en processeurs des LLM continuent de progresser.

Ajouter l’humain à l’argument économique

Il existe également des déséconomies liées à la dimension humaine du boom de l’IA, qui contrastent avec la croissance du cloud.

Les hyperscalers ont certainement besoin d’une main-d’œuvre expérimentée possédant une expertise approfondie pour déployer leurs cloud et les faire fonctionner. Mais au fur et à mesure de leur croissance, ils ont pu exploiter ce personnel plus efficacement. Un administrateur qui gérait un millier de serveurs physiques pourrait facilement en gérer 10 000 ou un million à mesure que les plates-formes cloud sous-jacentes mûrissaient.

Cependant, contrairement aux fournisseurs de cloud, Anthropic et les autres fournisseurs de modèles pionniers doivent continuellement accroître l'expertise de leurs équipes. Les nouveaux LLM ne sont pas simplement des versions évolutives des anciens. Chacun nécessite une nouvelle expertise de la part d’humains experts.

Anthropic se bat contre ses concurrents pour innover rapidement et déployer des modèles de plus en plus puissants dans des délais sans précédent. En conséquence, les équipes des fournisseurs LLM pionniers subissent des déséconomies d’échelle auxquelles les hyperscalers n’ont jamais eu à faire face.

Logiciels, matériel et personnes, oh mon Dieu !

Anthropic et les autres fournisseurs LLM pionniers souffrent d'une réalité économique fondamentalement nouvelle, car ils doivent continuer à augmenter leurs capacités matérielles tout en améliorant les compétences de leur main-d'œuvre afin de pouvoir innover de manière compétitive dans leurs logiciels.

Ils ne peuvent pas simplement exécuter des modèles de plus en plus puissants sur du matériel standard – ou même sur le même matériel sur lequel ils exécutaient le modèle de la génération précédente. Ils doivent augmenter leurs investissements en matériel à un rythme qui suit celui de l’innovation logicielle.

Le résultat final est une déséconomie d’échelle que l’industrie technologique n’a jamais connue auparavant. Nous sommes tellement habitués au coût marginal négligeable des logiciels et aux énormes économies d’échelle du cloud que nous ne sommes tout simplement pas préparés aux déséconomies d’échelle que doivent négocier les fournisseurs LLM pionniers comme Anthropic.

La prise Intellyx

Même si le marché des modèles frontières est encore relativement nouveau, nous constatons déjà l’impact de ses déséconomies d’échelle inhérentes, à mesure que les coûts symboliques deviennent une dépense de plus en plus importante pour les consommateurs d’IA.

À mesure que les LLM deviennent plus puissants et que le matériel dont ils ont besoin devient un goulot d'étranglement de plus en plus coûteux, ce n'est qu'une question de temps avant que les coûts des jetons deviennent prohibitifs pour une gamme d'applications basées sur l'IA.

Anthropic et les autres fournisseurs de modèles LLM peuvent essayer de réagir en augmentant l'efficacité de leurs LLM plus puissants ou en déployant des modèles moins puissants, et donc moins chers – en supposant que leurs clients adhèrent à ces démarches.

Nous pourrions également éventuellement atteindre un plateau où les modèles sont suffisamment puissants et le matériel suffisamment performant, permettant ainsi aux économies d'échelle plus familières de prendre le relais. Cependant, aucun plateau de ce type n’est en vue.

La question que les investisseurs potentiels d'Anthropic doivent donc se poser est la suivante : la position de leader de l'entreprise sur le marché du LLM est-elle une force ou une faiblesse ? Jusqu’où peut-elle innover et se développer avant que ses offres ne deviennent trop chères ? Et ça fait quoi alors ?

Jason Bloomberg est fondateur et directeur général d'Intellix, qui conseille les chefs d'entreprise et les fournisseurs de technologies sur leurs stratégies de transformation numérique. Il a écrit cet article pour SiliconANGLE. Tout de IntellyxLe contenu de est 100 % généré par des humains, y compris cet article. Anthropic n'est pas un client Intellyx.

Image: Craiyon

Newsletter

Rejoignez notre newsletter pour des astuces chaque semaine