L’infrastructure privée d’IA gagne du terrain à mesure que les organisations cherchent à mieux contrôler leurs données sensibles et leurs coûts d’exploitation tout en respectant les exigences réglementaires. ThinkOn Inc. étend son modèle cloud basé sur VMware pour répondre à cette demande tout en gardant les charges de travail canadiennes sous contrôle opérationnel et juridique national.
Le cloud souverain de l'entreprise constitue la base de l'infrastructure de la plateforme d'IA souveraine du Canada, qui dessert des milliers d'employés fédéraux dans 23 ministères, selon ThinkOn. L'entreprise constate également un intérêt plus grand pour l'IA privée de la part des organisations qui pèsent le contrôle des données et le coût des services à la demande, selon Craig McLellan (photo), fondateur de ThinkOn.
« Nous sommes une entreprise de taille modeste. Nous recevons entre trois et quatre demandes par semaine », a-t-il déclaré. « Je dirais que la moitié de ceux-ci, pour les services de type IA, sont destinés à l'IA privée. Nous commençons à constater une augmentation assez significative du niveau d'activité. »
McLellan s'est entretenu avec Christophe Bertrand de theCUBE Research et la co-animatrice Alison Kosik chez VMware Explore, lors d'une diffusion exclusive sur theCUBE, le studio de diffusion en direct de SiliconANGLE Media. Ils ont discuté de la souveraineté, de la conformité et des aspects économiques de l’exploitation de l’IA privée sur l’infrastructure VMware. (* Divulgation ci-dessous.)
L'infrastructure d'IA privée ajoute de la souveraineté et du contrôle des coûts
ThinkOn utilise VMware Cloud Foundation comme plan de contrôle commun pour son cloud privé établi et ses nouveaux services d'IA. L'entreprise combine cette technologie avec des centres de données canadiens, des ingénieurs basés au pays et des processus de conformité documentés pour répondre aux exigences de la chaîne d'approvisionnement et des juridictions, selon McLellan.
« Fondamentalement, le critère de souveraineté est le suivant : « Ai-je un accès illimité à l'infrastructure sur laquelle je choisis d'opérer, oui ou non ? » », a-t-il déclaré. « Si la réponse est non, alors vous ne pouvez tout simplement pas revendiquer la souveraineté. »
Les clients évaluent également l’infrastructure privée d’IA comme alternative aux services à la demande à coûts variables, selon McLellan. L'approche de ThinkOn reflète une évolution plus large vers l'exécution d'une IA privée sur une plate-forme VMware unifiée tout en adaptant la capacité de l'unité de traitement graphique aux exigences de charge de travail individuelle.
« Il ne s'agit pas toujours des GPU les plus récents et les plus performants », a déclaré McLellan. « Tout le monde n'a pas besoin de la série B ou de la série H. Nous avons des gens qui fonctionnent assez confortablement sur les GPU de la série A, et ils sont ravis parce qu'ils sont récompensés financièrement pour cela. Mais ce qu'il y a de beau dans notre stratégie d'IA privée, c'est qu'il s'agit du même plan de contrôle. »
Voici l'interview vidéo complète, faisant partie de la couverture de VMware Explore par theCUBE :
(* Divulgation : TheCUBE est un partenaire média payant pour l'événement VMware Explore. Les sponsors de la couverture de l'événement theCUBE n'ont pas de contrôle éditorial sur le contenu de theCUBE ou SiliconANGLE.)
Photo : SiliconANGLE
