Google LLC serait en train de développer une nouvelle puce optimisée pour exécuter sa série Gemini de modèles d'intelligence artificielle.
Des sources ont déclaré aujourd'hui à The Information que le processeur porte le nom de code «Frozen v2». Selon la publication, il devrait offrir des performances par watt entre six et dix fois supérieures à celles du silicium actuel du géant de la recherche. Les actions de la société mère de Google, Alphabet Inc., ont augmenté de 1,5 % selon le rapport.
Les puces disponibles dans le commerce contiennent souvent des composants dont les clients n'ont pas besoin. Si une startup d’IA achète une carte graphique comprenant à la fois des cœurs d’inférence et de rendu, elle risque de laisser ces derniers modules inactifs. Cela peut conduire à des inefficacités dans les projets d’IA.
La conception d'une puce personnalisée relève le défi. Une entreprise peut laisser de côté les circuits qui ne sont pas nécessaires à ses charges de travail et ainsi réduire ses coûts de fabrication. Alternativement, il peut remplacer les circuits inutiles par des cœurs optimisés pour son cas d'utilisation.
Google propose depuis longtemps des puces d'IA personnalisées appelées TPU via son cloud public. Les deux dernières entrées de la gamme, le TPU 8t et le TPUi, sont optimisées respectivement pour la formation et l'inférence. Selon le rapport d'aujourd'hui, Google prévoit d'aller encore plus loin dans cette personnalisation en optimisant sa prochaine puce Frozen v2 pour l'architecture de ses modèles Gemini.
Les gains d’efficacité significatifs que l’entreprise espère réaliser seront obtenus par plusieurs voies. La société espère notamment que Frozen v2 réduira le nombre de calculs nécessaires au fonctionnement de Gemini. Cela réduirait également le mouvement des données.
Le mouvement des données est un problème lorsqu'un réseau neuronal ne peut pas s'insérer dans la mémoire intégrée d'une carte graphique. Lorsque cela se produit, les éléments du réseau neuronal sont stockés dans un stockage hors puce. La carte graphique doit régulièrement déplacer ces éléments du stockage hors puce vers ses circuits logiques et vice versa, ce qui ralentit le traitement.
Google pourrait résoudre ce goulot d'étranglement en équipant Frozen v2 de suffisamment de mémoire pour exécuter Gemini entièrement sur puce. Une telle conception éliminerait le besoin de déplacer les données vers et depuis la RAM hors puce.
Le fait que Frozen v2 devrait réduire le nombre de calculs nécessaires pour exécuter Gemini suggère qu'il prendra également en charge une forme de fusion d'opérateurs. Il s'agit d'une technique largement utilisée pour accélérer les modèles d'IA. Il fonctionne en combinant plusieurs calculs en un seul calcul qui peut être effectué plus rapidement.
Google exécute ses TPU dans des clusters contenant plusieurs composants personnalisés. Le TPU 8i, par exemple, s'appuie sur des dispositifs personnalisés appelés commutateurs de circuits optiques pour gérer le flux de données. Google rendra probablement Frozen v2 compatible avec ces composants pour éviter d'avoir à procéder à une refonte majeure du cluster.
La société espère commencer à déployer la puce dans ses centres de données en 2028.
