La préparation opérationnelle de l’IA nécessite bien plus que la sélection des bons serveurs, du stockage et de la capacité informatique.
Ces considérations sont particulièrement importantes pour les institutions financières, où la fiabilité, les obligations réglementaires et la nécessité de démontrer le retour sur investissement technologique influencent les décisions de déploiement. Parallèlement, l'IA modifie le paysage des menaces, en permettant aux attaquants moins sophistiqués d'accéder à des fonctionnalités qui nécessitaient autrefois des ressources considérablement plus importantes, selon John Scimone, président et directeur de la sécurité de Dell Technologies Inc.
« Je pense que la pyramide existe toujours, mais il ne fait aucun doute que le coût d’entrée et les barrières à l’entrée se sont effondrés », a-t-il déclaré au CUBE. « En d'autres termes, l'attaque la moins sophistiquée de demain sera plus sophistiquée que ce que le monde aura jamais connu il y a un an. »
Scimone s'est entretenue avec Dave Vellante de theCUBE Research lors du Dell Technologies New York Symposium, dans le cadre de la couverture exclusive de SiliconANGLE Media sur theCUBE. Tout au long de l'événement, les dirigeants de Dell et les fournisseurs d'infrastructures cloud ont examiné les aspects économiques de l'IA d'entreprise, les défis opérationnels liés à la mise à l'échelle de l'infrastructure et les décisions qui façonnent l'adoption de l'IA.
Voici la discussion vidéo complète de theCUBE avec John Scimone :
Voici trois informations que vous avez peut-être manquées lors de la couverture par theCUBE du Dell Technologies New York Symposium :
Insight n°1 : L’IA d’entreprise nécessite un nouveau modèle opérationnel et économique.
Dell a passé près de deux ans à gérer des agents entièrement autonomes en interne, capturant les connaissances institutionnelles dans des fichiers de compétences lisibles par machine qui guident leur comportement. Cet effort s'inscrit dans le cadre d'une réorganisation plus large du travail autour des agents d'IA, selon John Roese, directeur mondial de la technologie et directeur de l'IA chez Dell.
« Cela ne signifie pas que vous ne pouvez pas utiliser des modèles frontières et des modèles ouverts », a-t-il déclaré lors de l'événement. « Cela signifie simplement que lorsque vous concevez votre système d'IA, vous devez réaliser que ce qui constitue votre douve, ce ne sont pas les outils proprement dits. Ce ne sont même pas les modèles. Ce sont les connaissances particulières qui se manifestent maintenant sous ces nouvelles formes qui capturent vraiment ce que vous savez et faites différemment de vos concurrents. «
Voici la discussion vidéo complète de theCUBE avec John Roese :
L’aspect financier de la préparation opérationnelle de l’IA présente un défi différent. À mesure que les entreprises étendent leurs déploiements, les équipes financières établissent des lignes budgétaires dédiées à la consommation de jetons et évaluent quelles charges de travail peuvent être exécutées sur site de manière plus économique. Les processus financiers répétitifs, par exemple, peuvent utiliser des modèles à pondération ouverte pour convertir les dépenses variables en coûts fixes plus prévisibles, selon David Kennedy, directeur financier de Dell.
« Il ne s'agit pas nécessairement du montant et du coût d'un jeton », a-t-il déclaré au CUBE. « Il s'agit des jetons que vous utilisez. Pouvez-vous être efficace avec eux ? Si vous l'êtes, vous obtiendrez d'excellents résultats. »
Voici la discussion vidéo complète de theCUBE avec David Kennedy :
Insight n°2 : les décisions en matière d’infrastructure d’IA vont au-delà de la capacité de calcul.
La croissance de l’inférence de l’IA modifie la façon dont les entreprises répartissent les charges de travail entre les environnements cloud, les centres de données et les appareils de périphérie. Le portefeuille étendu d'IA agentique de Dell reflète ce changement, avec des solutions couvrant les systèmes de bureau et l'infrastructure des centres de données. Les organisations évaluent où exécuter leurs modèles en fonction des performances, du contrôle des données et du coût, selon Kyle Dufresne, vice-président senior des ventes chez Dell.
« Nous voyons les propriétaires d'entreprises dire : 'Oh mon Dieu, ces coûts deviennent vraiment élevés pour l'inférence. Comment pouvons-nous réduire ces coûts sans freiner l'innovation ?' », a-t-il déclaré lors de l'événement. « Nous constatons que cela se produit tout au long de ce continuum, mais de plus en plus à l'extrême limite. »
Voici la discussion vidéo complète du CUBE avec Kyle Dufresne :
La disponibilité des infrastructures présente un autre défi. La demande en serveurs IA a mis à rude épreuve l'approvisionnement en composants allant de la mémoire et des processeurs aux équipements de refroidissement, de mise en réseau et d'alimentation au niveau du rack, selon David Schmoock, vice-président senior des opérations de revenus mondiaux chez Dell.
« Nous n'avons pas fait cette planification collaborative, et maintenant votre projet peut avoir été retardé de 60, 90, 120 jours, ce qui a à la fois un impact financier et un impact commercial », a-t-il déclaré au CUBE. « Je dirais de nous amener plus tôt. Permettez-nous de faire cette collaboration avec vous. Je pense qu'en fin de compte, vous obtenez le résultat le plus optimal. »
Voici la discussion vidéo complète de theCUBE avec David Schmoock :
Insight n°3 : la préparation opérationnelle de l'IA s'étend aux fournisseurs de cloud.
La préparation opérationnelle de l’IA devient également une considération pour les petites entreprises qui ont besoin d’accéder au calcul GPU sans les ressources des grandes entreprises. Comet Cloud Inc. cible ce marché mal desservi, où l'accès à l'infrastructure d'IA peut être limité par les engagements d'achat et les priorités des fournisseurs, selon Thomas Kato, fondateur et PDG de Comet Cloud.
« Vous allez chez (Amazon Web Services) maintenant ; ils veulent un contrat pluriannuel de votre part. Ils choisissent qui ils embauchent », a-t-il déclaré lors de l'événement. « Pour les petites et moyennes entreprises, elles n'ont même pas la possibilité de disposer de cette IA. En réalité, c'est notre objectif. »
Comet Cloud développe une approche alternative visant à donner aux petites organisations un meilleur contrôle sur leurs environnements informatiques, a noté Kato.
« Ce que nous faisons, c'est créer des clusters, et nous donnons des clusters à une entreprise entière. Toutes leurs informations, toute leur sécurité, tout se trouve dans ce cluster. Il n'y a personne d'autre qui y est lié ou connecté », a-t-il déclaré au CUBE.
Voici la discussion vidéo complète de theCUBE avec Thomas Kato :
Alpha Compute Corp. construit également son infrastructure néocloud autour des exigences de souveraineté des données et d'informatique confidentielle. L'approche souveraine dès la conception de l'entreprise vise à aider les clients à garder le contrôle sur les charges de travail sensibles et à respecter les obligations de résidence des données, y compris celles associées aux réglementations européennes, selon Tom Richer, vice-président exécutif d'Alpha Compute.
« Nous commençons par le matériel. Pensez à une pile. Jusqu'au niveau de la puce, nous créons des enclaves », a-t-il déclaré au CUBE. « Nous sommes un partenaire Dell, nous utilisons donc la technologie Dell ainsi que la technologie Intel. »
Maintenir l'infrastructure GPU opérationnelle présente un défi différent pour les fournisseurs de néocloud. Alpha Compute fournit un support d'infrastructure intégré et des services gérés continus pour répondre à ces demandes, a noté Richer.
« Vous pouvez réunir de nombreux fournisseurs différents, mais quand les choses tournent mal, on commence à pointer du doigt », a-t-il déclaré lors de l'événement. « Vous voulez simplement un fournisseur de solutions intégrées qui peut garantir le succès, vous aider avec toute la construction, puis tous les… services gérés pour que tout fonctionne en bonne santé et que tout fonctionne conformément aux (accords de niveau de service). »
Voici la discussion vidéo complète de theCUBE avec Tom Richer :
Pour en savoir plus sur la couverture par theCUBE du Dell Technologies New York Symposium, voici notre playlist vidéo complète :
https://www.youtube.com/watch?v=videoseries
(* Divulgation : TheCUBE est un partenaire média payant pour le Dell Technologies New York Symposium. Ni Dell, le sponsor de la couverture de l'événement theCUBE, ni les autres sponsors n'ont de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)