Les entreprises qui s'empressent de déployer l'IA à grande échelle découvrent que la plus grande contrainte n'est plus la capacité du modèle, mais le contrôle. Alors que l'IA agentique passe de l'expérimentation aux processus métier de base, les entreprises se demandent si le transfert de données propriétaires à des modèles à frontières fermées est un risque qui vaut la peine d'être pris. ouvrant la porte aux modèles d’IA à poids ouvert.
Ce changement alimente une croissance explosive pour les entreprises qui construisent la couche d’infrastructure sous-jacente à l’IA open source. L'utilisation de jetons sur les modèles ouverts a augmenté à mesure que les entreprises mettent en balance le coût, la conformité et la propriété intellectuelle par rapport à la commodité des systèmes fermés, selon Vipul Ved Prakash (photo), co-fondateur et PDG de Together AI Inc., qui a récemment levé 800 millions de dollars en financement de série C pour une valorisation de 8,3 milliards de dollars.
« L'une des choses que nous avons constatées au cours de l'année dernière est qu'il y a eu presque une ruée vers les modèles à pondération ouverte, que nous proposons et que nous permettons à nos clients de post-former et de s'adapter à leurs données », a déclaré Prakash. « Nous avons constaté une multiplication par 10 000 du nombre de jetons traités via des modèles open source. Je pense qu'ils sont vraiment devenus un cheval de bataille de l'IA agentique, d'une manière qui n'existait tout simplement pas il y a un an. »
Prakash s'est entretenu avec John Furrier de theCUBE lors du RAISE Summit à Paris, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la montée en puissance des modèles d’IA ouverts, des harnais d’agents d’entreprise et de la manière dont les préoccupations en matière de souveraineté remodèlent les décisions en matière d’infrastructure d’IA. (* Divulgation ci-dessous.)
Les modèles d’IA à poids ouvert remodèlent les équations de coûts et de contrôle de l’entreprise
Le coût est un facteur majeur de ce changement, mais ce n’est pas le seul. Ensemble, les clients d'AI constatent des différences de coûts entre les modèles ouverts et fermés allant de six à 60 fois, a déclaré Prakash, un écart qui devient décisif une fois que l'IA fonctionne à l'échelle de production plutôt que dans une démonstration.
« (Les modèles à poids ouvert) sont importants pour plusieurs raisons », a déclaré Prakash. « L'un est le coût. … L'autre est le contrôle. Ces modèles peuvent être exécutés dans l'environnement informatique souhaité par le client, en fonction de la conformité, de la perte de données et des exigences de sécurité du client. »
Les entreprises craignent de plus en plus que l'envoi de processus commerciaux propriétaires dans des modèles à frontières fermées ne donne effectivement un modèle aux concurrents, a noté Prakash, soulignant les commentaires publics du PDG de Palantir Technologies Inc., Alex Karp, sur la même tension. Cette anxiété augmente à mesure que le volume de Together AI indique à quelle vitesse les charges de travail des agents évoluent.
« Il y a 9 mois, nous servions 30 milliards de jetons par mois », a-t-il déclaré. « Nous servons désormais plus de 400 000 milliards de jetons par mois. Il y a donc un appétit incroyable. C'est devenu une activité liée au calcul.
Les entreprises réagissent en créant leurs propres « harnais » – des boucles d'orchestration qui leur permettent d'échanger des modèles sous une application avec un coût de commutation proche de zéro, a expliqué Prakash. Cette flexibilité, associée au contrôle des données, transforme l’infrastructure ouverte en un avantage concurrentiel durable plutôt qu’en un simple poste budgétaire.
« Vous ne partagez pas vos données avec une entreprise qui forme des mannequins », a déclaré Prakash. « Vous avez un contrôle total sur la résidence des données, ce qui se passe avec ces données, et vous pouvez toujours mélanger et faire correspondre plusieurs modèles au sein de vos harnais pour obtenir les meilleurs résultats. Je pense que cela commence à devenir un fossé dans la mesure où vous déployez efficacement l'IA dans l'entreprise… tout en créant également ces actifs d'IA que vous possédez désormais, et cela devient une partie de votre propriété intellectuelle. «
Voici l'interview vidéo complète, faisant partie de la couverture du RAISE Summit par SiliconANGLE et theCUBE :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement RAISE Summit. Ni Solidigm, le sponsor principal de la couverture des événements de theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou de SiliconANGLE.)
