À mesure que l’intelligence artificielle mûrit, les garde-fous de sécurité — et le système informatique lui-même – changent.
Cette semaine, la conversation a porté sur les agents devenus voyous. De meilleurs garde-fous sont nécessaires, affirment beaucoup, mais cela n’a pas ralenti le déploiement de nouveaux modèles d’IA par les plus grands acteurs du jeu.
En regardant plus loin, John Furrier (photo de gauche), analyste exécutif chez CUBE Research, estime que l'IA précipite un changement fondamental dans la manière dont les entreprises construisent leurs systèmes informatiques.
« L'activité des semi-conducteurs a vraiment changé », a-t-il déclaré. « La donne a changé. L'ère des GPU est révolue. Nous sommes maintenant dans l'ère des systèmes… mais ce qui est intéressant, c'est que tout le brouhaha autour de l'IA souveraine ne concerne pas seulement les pays, la France, le Canada, qui veulent avoir leur souveraineté dans leurs pays avec des centres de données. L'usine d'IA, comme l'a dit (le PDG de Nvidia Corp. Jensen Huang), ne produit pas seulement des jetons et des revenus ; elle produit de l'intelligence. »
Sur le dernier épisode du CUBE PodFourreur et Dave Vellante (photo, à droite), analyste en chef chez CUBE Research, a expliqué comment les agents remodèlent les pratiques traditionnelles autour des technologies de l'information. Ils ont également examiné le prochain événement de CoreWeave Inc. et si les nouveaux agents, tels que Muse de Meta Platforms Inc., sont réellement sécurisés.
CoreWeave est dans une position prometteuse mais précaire
Avant le prochain événement de CoreWeave, Fully Connected, theCUBE s'est penché sur les perspectives du néocloud en plein essor – bien que le terme puisse désormais être cloud d'IA. CoreWeave a fait des vagues lorsqu'il a achevé la première mise au point et validation du système Vera Rubin NVL72 de Nvidia, mais des inquiétudes subsistent quant à la pérennité de son financement.
« Chez (Dell Inc.), ils obtiennent un retour sur investissement massif sur leurs meilleurs investissements en IA », a déclaré Vellante. « Mais ce n'est pas le cas des grandes entreprises. Regardez les gros clients de CoreWeave. C'est une rumeur ; ils ont révélé que 70 % de leurs clients ou de leurs revenus provenaient des trois principaux clients. Je pense qu'il s'agit de (OpenAI PBC), (Microsoft Corp.) et Meta. Ces gars-là dépenseront comme des fous avec CoreWeave. Évidemment, ces gars-là peuvent monétiser, mais le client final le peut-il ? »
Alors que le marché a généralement été déflationniste – la technologie devenant de moins en moins chère au fil du temps – il est actuellement inflationniste. Cela signifie que CoreWeave est actuellement maintenu à flot grâce à la rareté des GPU. Cependant, Vellante a déclaré que son succès à long terme dépendra de l'expansion de son portefeuille de la même manière qu'Amazon Web Services.
Furrier est optimiste : « Le modèle ne disparaît pas dans le cloud ; il est simplement désagrégé », a-t-il déclaré. « Le cloud hybride est essentiellement de l'informatique distribuée, mais vous disposez désormais de capacités distribuées à grande échelle. Les néoclouds, à mon avis, représentent une nouvelle couche d'infrastructure qui signifie essentiellement qu'il s'agira d'une informatique distribuée. C'est la spécialité du client. On les appelle aujourd'hui des néoclouds. Ce seront des nuages d'IA demain. »
Des agents bruyants suscitent des inquiétudes quant à la sécurité
Les bénéfices de Dell restent solides, reflétant les opportunités offertes aux sociétés d'infrastructure dans le secteur en pleine croissance de l'IA. En revanche, les sociétés de logiciels en tant que service continuent de susciter des inquiétudes. Salesforce Inc. est désormais au lit des géants de l'IA : certains pensent que cela pourrait sonner le glas, tandis que d'autres y voient une démarche nécessaire à la survie du SaaS.
« L'infrastructure est l'endroit idéal », a déclaré Vellante. « Il ne s'agit plus seulement de puces. Il s'agit du système et de la chaîne de valeur à travers le système. La question est de savoir quand cela va-t-il toucher les logiciels ? Les logiciels ont eu une sorte de rebond. Est-ce un chat mort qui a rebondi avant que la véritable SaaSpocalypse n'intervienne ? Beaucoup de gens pensent que Benioff laissant entrer Anthropic, c'est laisser le renard dans le poulailler. »
La semaine dernière, Meta a fait sensation dans le pool de l'IA avec son nouvel agent, Muse, capable d'automatiser les tâches numériques tout en « vivant » dans un environnement cloud sécurisé. Compte tenu des scandales passés sur la confidentialité des données sur Facebook, Vellante a des doutes, tandis que Furrier vante un autre agent d'IA : Instinct, un assistant d'IA sur invitation uniquement, est devenu viral parmi les initiés de la Silicon Valley.
« Vous devez lui donner des informations d'identification », a déclaré Furrier, soulignant qu'Instinct est moins sécurisé que Google Workspace. « Il y a une certaine confiance en jeu. Il accomplit beaucoup de bonnes tâches pour moi. Il s'agit essentiellement d'un chef de cabinet. Vous pouvez lui donner des informations d'identification, par exemple, sur vos applications de voyage comme United, Delta, et vous connecter en votre nom en disant essentiellement… « Trouvez-moi un siège côté couloir ». Il reste dessus pendant que vous faites autre chose.
Au milieu de ces inquiétudes concernant l’industrie SaaS traditionnelle, Furrier voit le potentiel des produits technologiques à être « 100 % sécurisés » dès leur conception. Vellante est sceptique quant à la possibilité que cela se produise à tout moment, voire jamais. Avec des agents liés à OpenAI qui auraient tenté de forcer un site de statistiques des Nations Unies et un agent OpenAI obtenant un accès non autorisé à un site Web du gouvernement australien, il semble y avoir un long chemin à parcourir avant que l'IA puisse être complètement maîtrisée.
« Nous avions l'habitude de dessiner la pile et la sécurité n'était qu'une couche », a déclaré Vellante. « Ce n'est plus une couche. Il doit y avoir quelque chose d'orthogonal. Je pense que les attaquants auront toujours un avantage. Vous connaissez le vieil adage, ils ne doivent avoir raison qu'une seule fois. Et il y aura toujours des coutures. Chaque fois que l'infrastructure change, vous devrez appliquer un correctif. Ce correctif ne peut pas être produit instantanément. »
Voici l'épisode complet du theCUBE Pod de cette semaine :
Vous pouvez également nous écouter sur Podcasts Apple ou sur Spotify. Et pour ceux qui préfèrent regarder, consultez notre Liste de lecture YouTube. Connectez-vous maintenant et participez à la conversation en cours.
