Les entreprises ont besoin de solutions pratiques en matière de mise en œuvre de l’intelligence artificielle.
Alors que les organisations cherchent à faire passer leurs projets d’IA de la validation de principe à la production, relever les défis liés à l’intégration de l’IA dans l’ensemble d’une organisation devient une priorité. Le plus dur ? Rendre toutes les données d'une organisation accessibles et utilisables.
« Les entreprises font des affaires », a déclaré Nicolas Tan (photo, à droite), directeur du développement du marché, Enterprise AI, chez Advanced Micro Devices Inc. « Ils ne créent pas de modèles. Contrairement aux hyperscalers, ils essaient de maximiser leurs activités principales. Tout le monde a accès à ChatGPT ou Claude ou à des modèles open source. Le modèle lui-même est donc un enjeu de table. C'est vraiment là que réside la valeur pour les entreprises dans leurs données. «
Bronzage, aux côtés Junxia Zhou (à gauche), chef de produit senior chez Super Micro Computer Inc., et Mayank Gupta (au milieu), directeur du marketing des solutions chez Nutanix Inc., s'est entretenu avec Rob Strechay, pour le Série d'entretiens avec le Supermicro Open Storage Summitlors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de leur collaboration et des aspects pratiques de l’adoption de l’IA. (* Divulgation ci-dessous.)
Aller au-delà de la preuve de concept
Les POC ne constituent pas une feuille de route pour la mise en œuvre de l’IA, selon Zhou. Les entreprises doivent réfléchir de manière globale et comprendre comment l’ensemble de leur organisation peut être orientée vers les exigences en matière d’infrastructure et de données de l’IA de production. Supermicro fournit des systèmes GPU alimentés par la technologie AMD tout en travaillant avec Nutanix sur l'infrastructure définie par logiciel et les capacités de gestion.
« La production et le pilote sont totalement différents », a déclaré Zhou. « (Les pilotes sont) simplement conçus pour un seul cas d'utilisation, un petit ensemble de données et servent à un petit nombre de membres de l'équipe. Mais pour la production, le client peut avoir besoin de prendre en charge des milliers d'utilisateurs finaux qui génèrent de nombreuses demandes d'inférence. «
Parmi les autres obstacles à la mise en production de l’IA figurent les coûts des jetons et la fragmentation des données. Les données d'une organisation peuvent résider sur de nombreux systèmes différents, tandis que les logiciels et les couches de données existants peuvent ne pas être équipés pour répondre aux exigences de l'IA agentique.
« Ce que nous réalisons, c'est que les couches logicielles des utilisateurs ne sont pas prêtes à fournir et à connecter l'environnement agent », a déclaré Gupta. « Alors qu’une requête de chatbot classique aurait consommé mille ou cent jetons, les agents parlent à des agents, à des données, à d’autres agents, à des modèles, et… ils consomment des milliers de jetons en une fraction de seconde. »
Une solution proposée par Supermicro et ses partenaires est une architecture de stockage à deux niveaux. Les clients peuvent utiliser la mémoire flash (SSD) pour stocker des ensembles de données actifs et un stockage d'objets à grande échelle pour stocker des données d'archives moins fréquemment consultées. Cette approche permet d'équilibrer l'accès aux données hautes performances avec la rentabilité d'un stockage à capacité optimisée.
« Du point de vue de Supermicro, les performances commencent toujours par la pleine utilisation des ressources coûteuses du GPU », a déclaré Zhou. « L'infrastructure actuelle n'est pas limitée par la disponibilité du matériel, mais par la rapidité avec laquelle les données peuvent être transmises aux GPU. C'est pourquoi nous nous concentrons sur l'optimisation de l'ensemble de la pile d'IA. Les performances de calcul ne suffisent pas. Le stockage des données et la mise en réseau deviennent un élément très critique des pipelines d'IA. »
Implémentation sécurisée de l'IA
Les agents autonomes ont soulevé de nouvelles préoccupations en matière de sécurité et de gouvernance en raison du niveau d'accès dont ils peuvent disposer aux systèmes et aux données de l'entreprise. Les données doivent être visibles pour l’IA, mais en même temps, les données et charges de travail sensibles peuvent devoir rester dans des environnements contrôlés.
« La sécurité est primordiale, d'autant plus que les agents… accèdent aux données à un rythme rapide et consomment des jetons à un rythme jamais vu auparavant », a déclaré Gupta. « De mon point de vue (et) du point de vue d'un PDG, la gouvernance est très importante. La façon dont ces agents communiquent entre eux est très importante. Du point de vue du directeur financier, les coûts symboliques (sont les plus importants.) »
Les entreprises recherchent de plus en plus de solutions d’IA souveraines en raison de problèmes de sécurité et du désir de protéger leurs données propriétaires. Les organisations cherchent également à déployer des modèles et des agents d’IA sur site, même si les intervenants ont souligné l’importance de se connecter aux environnements hybrides et périphériques.
« Ce qui différencie les entreprises, ce sont leurs données sensibles », a déclaré Zhou. « Les entreprises ne se sentent pas à l'aise à l'idée d'envoyer leurs données sensibles, comme la propriété intellectuelle ou les informations client, à des fournisseurs d'IA externes. Il existe une demande croissante d'IA souveraine et d'IA privée, car les entreprises souhaitent construire leur infrastructure d'IA plus près de l'endroit où se trouvent leurs données. »
Bien que les environnements privés d’IA puissent jouer un rôle important dans cette stratégie, Tan a souligné l’intérêt d’avoir une « stratégie ouverte » qui englobe des solutions open source, des normes ouvertes et une plateforme ouverte. La possibilité de se déplacer de manière flexible entre des environnements hybrides pourrait donner aux entreprises un plus grand choix quant à l’endroit où les charges de travail d’IA s’exécutent.
« J'ai été vraiment impressionnée par les modèles locaux, les modèles à poids ouvert qui fournissent des renseignements très proches des frontières », a-t-elle déclaré. « Vous n'avez pas nécessairement besoin de faire un compromis entre un modèle intelligent ici et un modèle stupide ici. Vous pouvez obtenir une intelligence presque aussi performante qu'une intelligence de niveau frontière et maintenant l'exécuter sur site. De plus en plus, vous pouvez intégrer un grand nombre de ces capacités en interne. «
Restez à l'écoute pour l'interview vidéo complète, qui fait partie de la couverture par SiliconANGLE et theCUBE du Série d'entretiens avec le Supermicro Open Storage Summit.
(* Divulgation : TheCUBE est un partenaire média payant pour la série d'interviews Supermicro Open Storage Summit. Ni Supermicro, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
