Les entreprises mettent rapidement en production des projets d’IA dans la course à des revenus plus élevés – mais cela n’est pas sans risques en termes de coûts et de sécurité. Le cloud privé apparaît comme le fondement de l’infrastructure d’IA alors que les entreprises recherchent le contrôle, la prévisibilité des coûts, la sécurité et la conformité.
Broadcom Inc. positionne sa plate-forme VMware Cloud Foundation comme la base de cloud privé sécurisée et rentable dont les entreprises ont besoin pour saisir efficacement les nouvelles opportunités d'IA, a expliqué Paul Turner (photo), directeur des produits de la division VMware Cloud Foundation chez Broadcom Inc, dans une récente interview avec John Furrier et Gemma Allen de theCUBE.
« L’IA est également un multiplicateur de risques et de coûts », a-t-il déclaré. « Pensez à quelques statistiques : 73 % des entreprises sont confrontées à des attaques liées à l'IA. C'est presque tous les secteurs… qui voient ces nouvelles attaques pilotées par des logiciels basés sur l'IA. »
Turner faisait partie des nombreux experts du secteur de Broadcom, ThinkOn et Charlotte Pipe and Foundry Co. qui se sont entretenus avec Furrier et Allen lors de l'événement Broadcom « Modern Private Cloud : A Secure Foundation for Production AI », lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté.. (* Divulgation ci-dessous.)
Voici trois informations que vous avez peut-être manquées lors de la couverture par theCUBE de l'événement « Modern Private Cloud : A Secure Foundation for Production AI » de Broadcom :
Insight n°1 : La hausse des coûts de l’infrastructure de l’IA alimente la transition vers le cloud privé
L’IA offre un potentiel de revenus intéressant pour les entreprises, mais ces avantages sont compromis par les coûts d’infrastructure élevés. La recherche de rentabilité conduit à une adoption rapide de la plate-forme VCF, a expliqué Turner, avec plus de 2 000 clients déjà intégrés.
« Je veux dire, cela devient très, très coûteux de démarrer des services », a-t-il déclaré au CUBE. « Les entreprises réalisent soudain que la réponse cloud à l'IA n'est pas la bonne réponse pour exécuter l'IA de production à grande échelle, et l'inférence de l'IA, qui est en réalité le temps d'exécution de vos opérations quotidiennes. Vous ne l'exécuterez pas sur le cloud, en raison du coût des opérations. Vous pouvez l'exécuter plus efficacement, tout comme le reste de votre infrastructure, dans un environnement de cloud privé. »
Tokenomics incite les dirigeants à reconsidérer où les charges de travail doivent s'exécuter. Les préoccupations en matière de sécurité influencent également leur choix entre le cloud public ou le cloud privé, a ajouté Prashanth Shenoy, directeur du marketing et vice-président du marketing de la division VMware Cloud Foundation chez Broadcom.
« L'année dernière, lorsque nous avons réalisé l'étude sur les perspectives du cloud privé, une réinitialisation définitive du cloud s'est produite sur le marché, où le cloud privé et le modèle opérationnel du cloud privé pour exécuter votre charge de travail critique sur site ou dans un environnement hybride étaient à égalité avec le cloud public », a-t-il déclaré. » Avance rapide jusqu'à cette année, lorsque nous avons mené la même enquête auprès de 1 800 responsables informatiques et décideurs du monde entier. De nombreuses organisations font désormais passer leurs applications d'IA d'une phase pilote d'essai à la production, en les mettant en œuvre à grande échelle. «
Voici l'interview vidéo complète de theCUBE avec Paul Turner et Prashanth Shenoy :
Insight n°2 : la souveraineté de l'IA englobe désormais l'infrastructure, les données et les modèles
La souveraineté est de plus en plus une priorité alors que les organisations recherchent plus de liberté et de contrôle sur la manière dont elles gèrent l’IA. Beaucoup souhaitent également réduire leur dépendance à l’égard des fournisseurs de cloud public.
L'étendue de la souveraineté de l'IA dans l'entreprise a changé au cours de l'année écoulée, a expliqué Chris Wolf, responsable mondial de l'IA et des services avancés pour la division VMware Cloud Foundation chez Broadcom. Alors qu'il y a un an, les organisations se concentraient principalement sur le filtrage des données qu'elles partageaient avec des modèles pionniers, ces mêmes entreprises prennent aujourd'hui des décisions encore plus nuancées et réfléchies en matière de confidentialité des données, de contrôle d'accès et d'auditabilité.
« Pour beaucoup de nos clients aujourd'hui, leur définition signifie qu'il ne s'agit pas seulement du plan de données qui est souverain, il s'agit également du plan de contrôle qui est souverain », a-t-il déclaré dans une interview avec theCUBE. « C'est que je peux me déconnecter d'Internet et que je peux continuer à courir. Je peux continuer à fonctionner. C'est une différence et cela a été vraiment motivé au cours des deux dernières années, bien plus que ce que nous avons vu auparavant. »
La souveraineté est particulièrement une priorité pour les clients gouvernementaux. ThinkOn, un fournisseur canadien de services cloud, a travaillé avec Broadcom pour lancer le premier cloud souverain au Canada. Dans ce cas, le cloud privé était la seule option d'infrastructure viable capable d'assurer la responsabilité, l'auditabilité et la conformité requises dans le secteur gouvernemental, a expliqué Craig McLellan, fondateur et PDG de ThinkOn. De plus, le besoin de souveraineté s’étend au-delà du cloud jusqu’aux modèles d’IA.
« J'irais même plus loin et je dirais qu'il s'agit aussi d'une question de souveraineté modèle », a-t-il ajouté. « De nombreux pays souhaitent avoir leur propre modèle souverain. Par exemple, au Canada, Cohere est un acteur dynamique sur le marché, et nous avons en fait profité de l'occasion pour travailler en étroite collaboration avec Broadcom pour ajouter le modèle Cohere à l'environnement en tant que cloud privé. Nous sommes en mesure de fournir au secteur public une combinaison de souveraineté de modèle, certainement de souveraineté économique et de données, ainsi que de souveraineté de plan de contrôle et de plan de données. »
Voici l'interview vidéo complète de theCUBE avec Craig McLellan et Chris Wolf :
Insight n°3 : Les entreprises qui se sont modernisées en premier sont les mieux placées pour l'intégration de l'IA
Les entreprises qui ont déjà modernisé leur infrastructure dans le cloud privé pourraient être mieux placées pour adopter l’IA à l’avenir. Par exemple, Charlotte Pipe and Foundry, un fabricant de tuyaux et de raccords en PVC et en fonte âgé de 125 ans, a investi dans le VCF de Broadcom il y a des années afin d'optimiser les charges de travail et la sécurité, a noté Rodney Barnhardt, administrateur de serveur chez Charlotte Pipe and Foundry.
« À l’origine, lorsque nous sommes passés à VCF, c’était avant de pouvoir importer des friches industrielles », a-t-il déclaré au CUBE. « Bien que nous soyons clients de VMware depuis longtemps, avant de passer à VCF, nous étions sur trois niveaux : Cisco, BladeCenter, matrice de stockage 100 % Flash Unity. En examinant VMware de Broadcom et la plate-forme VCF utilisant HCX pour pouvoir effectuer ces migrations, ainsi que vDefend pour mettre en place une microsegmentation autour des produits, VMware Cloud Foundation est devenu le produit idéal à déployer dans notre environnement. «
À mesure que l’adoption de l’IA se développe dans l’entreprise, une surveillance accrue est nécessaire pour gérer le nombre croissant de flux de travail interagissant avec des données opérationnelles sensibles. Des fonctionnalités de sécurité telles que vDefend, qui permet la microsegmentation, contribuent à réduire la capacité des menaces externes à se déplacer latéralement dans l'environnement informatique de Charlotte Pipe, a souligné Barnhardt.
C’est particulièrement important car la connectivité et la capacité des systèmes internes à communiquer entre eux pourraient constituer l’avantage ultime d’une infrastructure moderne basée sur l’IA.
« À mesure que de plus en plus d'organisations se tournent vers l'IA, elles connecteront divers systèmes qui peuvent désormais être déconnectés », a déclaré Barnhardt. « Ils chercheront à mieux les intégrer et à leur permettre de s'appuyer les uns sur les autres et de dire : 'Ce système peut prendre une commande et l'envoyer à un autre système qui traite la commande qui peut ensuite générer quelque chose du côté du traitement ou du déploiement.' Je pense donc que vous verrez plus d'intégrations comme celle-là et de discussions entre les équipes sur la réalisation de ce type d'intégrations.
Voici l'interview vidéo complète de theCUBE avec Rodney Barnhardt :
Retrouvez notre couverture vidéo complète de l'événement Broadcom « Modern Private Cloud : A Secure Foundation for Production AI »
https://www.youtube.com/watch?v=videoseries
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement Broadcom « Modern Private Cloud : A Secure Foundation for Production AI ». Les sponsors de la couverture de l'événement theCUBE n'ont pas de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)