Google LLC s'efforce de renforcer l'emprise de Nvidia Corp. sur le secteur informatique de l'intelligence artificielle avec le lancement d'une version spécialisée du framework open source PyTorch, appelée TorchTPU, conçue pour éliminer un avantage clé de son rival.
L'une des raisons pour lesquelles Nvidia et ses unités de traitement graphique restent si dominantes dans le secteur de l'IA est que la grande majorité des applications d'IA sont écrites spécifiquement pour fonctionner sur ses GPU, et c'est cette réalité que Google tente de changer avec la version d'aujourd'hui.
Le framework PyTorch est une boîte à outils open source populaire que les développeurs utilisent pour créer, former et exécuter des modèles d'IA et des réseaux de neurones. Selon certains témoignages, plus de 85 % de toutes les applications d'IA sont créées à l'aide de PyTorch, créé par Meta Platforms Inc. en 2016, bien avant que quiconque ne réalise que de grands modèles de langage allaient permettre le boom de l'IA.
À l'époque, les GPU de Nvidia étaient déjà le matériel préféré des développeurs pour la recherche en IA. Meta a donc conçu PyTorch spécifiquement pour fonctionner avec les puces de cette société. L'accent mis sur le matériel de Nvidia s'est poursuivi, même après PyTorch open source Meta en 2022, confiant la gestion à la Fondation Linux à but non lucratif.
Avec TorchTPU, Google a créé une version alternative de PyTorch qui permet aux développeurs de créer plus facilement des modèles et des applications pouvant s'exécuter sur ses unités de traitement Tensor ou TPU, qui sont des puces spécialisées pour les charges de travail d'IA. TorchTPU offre également aux développeurs un moyen simple d'exécuter des applications et des modèles existants sur des TPU en effectuant quelques ajustements de configuration simples, sans avoir à réécrire le code sous-jacent.
Google n'est pas le seul à tenter de saper l'énorme avantage dont Nvidia disposait grâce à PyTorch. En fait, c'est juste plus tôt cette semaine qu'Amazon Web Services Inc. a annoncé sa propre version de PyTorch, appelée TorchNeuron. Semblable à TorchTPU, TorchNeuron facilite l'exécution d'applications d'IA sur différents matériels, en l'occurrence les puces Trainum d'Amazon. Amazon est allé encore plus loin, révélant qu'il a contribué au code du projet PyTorch original qui dissociera un certain nombre de fonctionnalités clés des GPU de Nvidia, dans le but de le rendre plus compatible avec tout type de matériel.
Google ne l'a pas fait, mais il a peut-être acquis un avantage sur AWS de plusieurs autres manières. D'une part, la société a déclaré avoir collaboré étroitement avec Meta, Hugging Face et quelques startups appelées Inferact Inc. et RadixArk Inc., les développeurs de vLLM et SGLang, pour garantir que les diverses fonctionnalités et bibliothèques de codes de TorchTPU sont compatibles avec leurs outils de développement. Avec cela, il a effacé un autre avantage apporté par PyTorch.
Google a également fait autre chose qu'AWS n'a pas fait. Il a révélé un nouvel outil appelé suite d'agents TPU, destiné à aider les développeurs à déplacer leurs applications d'IA vers la plate-forme Google Cloud et à corriger automatiquement toutes les erreurs qui se produisent pendant le processus de migration. En outre, il a mis à jour un outil existant appelé LiteRT, utilisé pour créer des applications d'IA qui s'exécutent directement sur les smartphones, les ordinateurs portables et les appareils embarqués plutôt que dans le cloud. Il devrait donc désormais être compatible avec les applications basées sur PyTorch, a déclaré Google.
Bien entendu, il en faudra plus pour convaincre des millions de développeurs d’abandonner les GPU de Nvidia et de se ruer sur les TPU de Google. Mais cela suggère que Google est convaincu de pouvoir réduire l'avance de Nvidia à long terme.