Posséder, ne pas louer : pourquoi l'IA agentique ramène le cloud computing sur site

L'IA agentique relance un débat sur la location ou la possession de calcul, et le plan modèle – la couche qui décide où les modèles d'IA s'exécutent – ​​se trouve au centre de celui-ci. Des efforts open source tels que l'inférence d'itinéraire Modelplane d'Upbound Inc. à travers les cloud, mais de nombreuses entreprises souhaitent que les modèles soient installés sur le matériel qu'elles contrôlent.

Ce changement favorise les entreprises qui ont construit très tôt une infrastructure cloud sur site. Oxide Computer Co., qui a levé 445 millions de dollars en octobre pour développer la production de racks, a bâti son activité sur l'idée que les grandes entreprises voudront posséder leurs ordinateurs, selon Bryan Cantrill (photo), co-fondateur et directeur de la technologie chez Oxide.

« Le cloud computing est formidable, mais le modèle ne devrait pas consister exclusivement à le louer. À partir d'une certaine échelle, il s'avère que vous souhaitez posséder votre propre ordinateur », a déclaré Cantrill.

Cantrill s'est entretenu avec John Furrier de theCUBE Research au SC26, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la location par rapport à la possession de calcul, des raisons pour lesquelles les charges de travail agents se déplacent sur site et de la multilocation pour isoler ces charges de travail.

Les charges de travail agents sont déplacées sur site

Les charges de travail agentiques entraînent une explosion de la demande de calcul, et il s’agit en grande partie de travaux gourmands en CPU que les entreprises préfèrent posséder plutôt que de louer. L’économie reste la principale raison de l’internaliser, mais le lieu de résidence des modèles vient juste après, a expliqué Cantrill. Cela fait du plan modèle autant une décision de gouvernance des données qu’une décision d’infrastructure.

« Il y a une véritable volonté d'entreprise vers des modèles ouverts, et je pense que vous allez en voir de plus en plus car les gens veulent exécuter les modèles sur site et permettre à leurs données de ne pas quitter », a déclaré Cantrill.

La sécurité est l’autre moitié. Oxide a retiré le BIOS UEFI et le contrôleur de gestion de la carte mère de son rack pour réduire la surface d'attaque, et a intégré dès le départ une architecture multi-tenant de niveau cloud public. Selon Cantrill, ces premiers choix de conception donnent aux entreprises un périmètre pour isoler les charges de travail agents.

« Je pense que la multi-location signifie que vous avez des locataires potentiellement contradictoires qui vont être sur la même ressource », a déclaré Cantrill. « Ils vont partager le même ordinateur, le même réseau, et ils doivent le faire… sans violer la confidentialité, sans se violer mutuellement. »

Les mêmes racks peuvent prendre en charge les charges de travail de virtualisation héritées des clients mécontents des changements de prix dans l'activité VMware de Broadcom Inc.. Cela permet aux entreprises d'exécuter des applications anciennes et nouvelles sur une seule plate-forme à usage général, a noté Cantrill.

« Vous voulez toute la flexibilité que vous offre le calcul élastique, mais vous en avez besoin pour des raisons économiques, de sécurité et de latence », a déclaré Cantrill à propos du cloud computing sur site. « Vous en avez besoin dans votre propre centre de données. Vous voulez contrôler votre destin. »

Voici l'interview vidéo complète, faisant partie de la couverture du SC26 par SiliconANGLE et theCUBE :

(* Divulgation : NYSE Wired a sponsorisé ce segment de theCUBE. Ni NYSE Wired ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)

Photo : SiliconANGLE

Newsletter

Rejoignez notre newsletter pour des astuces chaque semaine