Même si les exigences en matière d'infrastructure peuvent être communément partagées dans l'informatique d'entreprise, le chemin à suivre pour le déploiement de l'IA peut varier considérablement en fonction de l'organisation.
Les organisations de la santé, des services financiers, de l’industrie manufacturière, des télécommunications et du secteur public présentent des défis uniques en matière de données, de gouvernance et d’exploitation lorsqu’il s’agit de mettre en œuvre l’IA. Cela signifie que l’avenir de l’IA est de plus en plus vertical et que l’expertise du domaine, les charges de travail spécifiques à l’industrie et les données propriétaires sont devenues des avantages concurrentiels. Cet avenir peut toutefois s’avérer complexe, car les entreprises cherchent à adapter leurs piles technologiques pour générer des résultats significatifs grâce à leurs investissements dans l’IA.
« Pour que les entreprises clientes construisent l'usine d'IA en tant qu'infrastructure spécialement conçue pour l'IA, cela a été complexe », a expliqué Vince Chen (photo, en bas à droite), directeur principal de l'architecture de solutions chez Super Micro Computer Inc. « Les ingrédients – calcul, stockage, réseau et même jusqu'à l'intégration verticale de la pile logicielle – la complexité était là. Nous travaillons donc ici avec nos partenaires pour créer des options de taille de T-shirt intégrées verticalement puis pré-validées parmi lesquelles nos clients peuvent choisir. »
Chen s'est entretenu avec Rob Strechay de CUBE Research pour la série d'interviews Supermicro Open Storage Summit, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Il a été rejoint par Anders Graham (en haut, à droite), directeur principal du marketing SSD et du développement commercial chez Kioxia Holdings Corp. ; Brad Warbiany (en haut, à gauche), directeur du marketing technique chez Western Digital Corp. ; et Moiz Kohari (en bas, à gauche), vice-président de l'IA d'entreprise et de l'intelligence des données chez DataDirect Networks Inc.
Ils ont discuté de l'émergence de solutions d'IA verticales, des modèles d'infrastructure communs et de la manière dont les organisations peuvent accélérer le déploiement tout en répondant aux exigences spécifiques du secteur. (* Divulgation ci-dessous.)
Besoins verticaux pour le déploiement de l'IA
Les solutions verticales qui émergent reflètent la nécessité pour la pile technologique de fonctionner de manière réactive à mesure que les exigences de l'entreprise évoluent. Chez la société privée de stockage de données et d'intelligence DataDirect Networks, les processus informatiques de ses clients financiers doivent faciliter le mouvement rapide des données pour maintenir le flux des réserves de capital.
« Si vous êtes une entreprise comme BlackRock ou State Street, où vous envisagez un billion de dollars dans vos livres et où vous avez un capital bloqué de 6 à 12 %, c'est un gros problème », a déclaré Kohari au CUBE. « Vous supportez ce risque dans vos livres. Nous pouvons faire ces calculs parce que nous pouvons déplacer ces données rapidement. Lorsque vous faites cela, vous débloquez 6 % de ce capital, afin que ce capital puisse être utilisé pour faire autre chose. Vous pouvez le réinvestir ; vous pouvez le couvrir. Ce même cas s'applique également aux sciences de la vie. «
Pour répondre à ce type de besoins verticaux, les partenaires de Supermicro ont développé des solutions techniques qui aident à piloter les flux de traitement des données d'IA. Chez le fabricant de mémoires informatiques Kioxia, cela signifie proposer des disques SSD, comme sa gamme BiCS, capables de maximiser la densité de stockage dans les centres de données.
« Si nous examinons les différentes étapes, du côté de l'ingestion de données, nous constatons que les architectures à plusieurs niveaux sont assez courantes en fonction des différents points de coût et cas d'utilisation », a déclaré Graham. « Nous avons désormais notre technologie BiCS8 dans nos disques CM9 et CD9P, qui remplacent les disques CM7 et CD8P dans le portefeuille Supermicro au cours de cette année. Ceux-ci ont juste d'énormes gains d'efficacité énergétique et de performances. »
Passer de l’expérimentation à la production
Un élément clé de la croissance des solutions d’IA verticales a été le développement de modèles de pondération ouverts spécifiques à un domaine. Nvidia Corp. a lancé une offre majeure dans ce domaine pour l'industrie automobile plus tôt cette année, et un certain nombre de modèles à poids ouvert sont également disponibles dans le secteur de la santé.
Le groupe d'experts a discuté de la manière dont les industries verticales doivent décider comment passer de l'expérimentation avec des poids ouverts à la production et de quelle infrastructure sera nécessaire pour faciliter cette transition.
« Je dirais que la plus grande différence entre l'expérimentation et la production est l'échelle », a déclaré Warbiany. « Les choses changent radicalement lorsque l'on passe des téraoctets aux pétaoctets et aux exaoctets, et une énorme complexité doit être intégrée dans une architecture système. Avoir des solutions comme DDN et Supermicro qui rassemblent tout aide les clients qui font cette évolution lorsqu'ils passent de petites quantités de données à ce dont ils auront besoin au quotidien. «
Un autre facteur pour les entreprises consiste à savoir si elles doivent opérationnaliser l’IA dans le cloud ou dans un environnement de centre de données privé. Pour de nombreux secteurs verticaux, la gestion des données sera un élément clé dans la voie choisie, selon Chen.
« Nous savons que le concept est que les entreprises clientes puissent démarrer dans le cloud ; c'est facile et cela est encouragé », a déclaré Chen au CUBE. « Mais en même temps… il y a la confidentialité et puis le contrôle des données, le contrôle du savoir-faire, le renseignement, c'est un point crucial. »
Restez à l'écoute pour l'interview vidéo complète, qui fait partie de la couverture par SiliconANGLE et theCUBE de la série d'interviews Supermicro Open Storage Summit.
(* Divulgation : TheCUBE est un partenaire média payant pour la série d'interviews du Supermicro Open Storage Summit. Ni Supermicro, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)