Pendant des décennies, l’industrie des semi-conducteurs a été en concurrence sur une seule chose : la puce individuelle. L’une des plus grandes tendances actuelles de l’industrie des semi-conducteurs d’IA est la transition vers le traitement des puces comme des composants de systèmes beaucoup plus vastes. Les performances, les coûts et la fiabilité sont désormais déterminés à travers le package, le rack et la chaîne d'approvisionnement, et non à l'intérieur d'une seule puce.
Ce changement déplace les problèmes les plus difficiles en amont. Auparavant, l'emballage, la connectivité, le rendement, l'approvisionnement et la vérification venaient après la conception, mais ils la façonnent désormais dès le premier jour. L’IA raccourcit les cycles de développement tout en augmentant la complexité que les ingénieurs doivent gérer. La prochaine phase sera définie par la manière dont les entreprises se coordonneront dans l’ensemble de ce système.
« Je pense que le système d'IA est nos nouvelles puces », a déclaré Letizia Giuliano, vice-présidente de la gestion des produits et du marketing chez Qualcomm Technologies Inc. « Si nous optimisions tout pour le silicium dans le passé, aujourd'hui, nous optimisons tout pour le système. »
Giuliano et d'autres experts de l'industrie se sont entretenus avec John Furrier de CUBE Research et la co-animatrice Alison Kosik lors de l'événement GSA Women's Leadership Initiative à Palo Alto, en Californie. Les entretiens ont porté sur les tendances de l'industrie des semi-conducteurs IA, les interconnexions optiques, le packaging avancé, l'apprentissage du rendement basé sur l'IA, l'IA physique, l'approvisionnement stratégique et la conception de puces assistée par l'IA.
Voici six idées marquantes de l’événement :
1. La connectivité dépasse le calcul en tant que goulot d'étranglement dans l'infrastructure d'IA.
Selon Giuliano, le déplacement des données entre les puces, la mémoire et les racks limite désormais davantage les performances de l'IA que le calcul brut. À 200 gigabits par seconde par voie, la moitié du budget du signal est uniquement consacrée à la sortie du package. Cela consiste à pousser l'interconnexion optique des liaisons rack à rack dans le rack, la lame et le boîtier lui-même, le cuivre et l'optique étant utilisés côte à côte. Qualcomm vient de lancer High Bandwidth Compute, un moyen à faible consommation d'énergie de connecter le calcul à la mémoire, optimisé pour les jetons par watt. La construction de tels produits à grande échelle signifie que l'ingénierie des produits doit rejoindre dès le début la planification de la conception pour les tests, de la fabrication et de la fiabilité, a expliqué Sophie Wang, directrice principale de l'ingénierie des produits chez Marvell Technology Inc.
Découvrez l'interview complète de theCUBE.
2. L’empaquetage avancé passe de la réflexion après coup à l’architecture système.
Les limites d'un système d'IA se déplacent de la puce au boîtier, a souligné Nisha Ananthakrishnan, directrice principale du packaging avancé chez Intel Corp. Intel utilise sa technologie de pont EMIB pour relier les chipsets et faire évoluer les packages de 3x à plus de 10x les facteurs de forme. Les fournisseurs externalisés d'assemblage et de tests deviennent des intégrateurs de systèmes, a noté Patricia MacLeod, directrice principale des communications d'entreprise et des partenariats industriels chez Advanced Semiconductor Engineering Inc. Elle a souligné la plate-forme VIPack d'ASE, qui prend en charge des technologies allant de la puce sur substrat à diffusion groupée aux optiques co-packagées. De nombreuses puces dont dépend l'IA, telles que les puces de gestion de l'énergie et les régulateurs de tension construits entre 12 et 28 nanomètres, utilisent des nœuds matures, a ajouté Tazrien Kamal, directeur principal de la technologie et de l'innovation chez GlobalFoundries Inc.
Regardez l’interview complète de theCUBE.
3. L’apprentissage du rendement basé sur l’IA transforme la rapidité en volume en un avantage concurrentiel.
Environ 70 à 80 % des problèmes rencontrés lors de l'augmentation de la production en volume auraient pu être résolus avant la sortie, a souligné Preeti Prasher, directeur de l'exploitation de Stathera Inc. L'utilisation de l'IA pour analyser les données de caractérisation, de simulation et de fabrication en ligne permet aux équipes de démarrer de nouvelles tranches avant qu'un mauvais lot n'atteigne les tests. Les tests adaptatifs réduisent également la durée des tests. Lattice Semiconductor Corp. a lancé Lattice Prompt, son premier assistant de conception IA, qui transforme une requête en langage simple en une conception de réseau prédiffusé programmable sur site et recommande la meilleure pièce en termes de facteur de forme et de coût, selon Iliana Chen, directrice principale de la gestion des programmes chez Lattice. La demande de la robotique et d'autres marchés a fait du volume le plus grand défi de Lattice, a noté Chen.
Voir la couverture complète de theCUBE.
4. L’IA physique devient un défi au niveau du système, et non une guerre des puces.
L'IA physique est beaucoup plus large que les robots humanoïdes et couvre tout système autonome qui détecte son environnement, raisonne et agit dans le monde physique, a expliqué Gina Longoria, vice-présidente des communications externes chez Arm Ltd. Le marché en est à ses débuts et aucune entreprise ne peut à elle seule construire l'architecture, la sécurité et les normes de sûreté dont elle a besoin, a-t-elle souligné. Le micrologiciel est en train de devenir la couche qui relie les GPU, les processeurs, les cartes réseau et les appareils Compute Express Link en un seul système à l'échelle d'une flotte, a partagé Lakshmi Ramagiri, partenaire pour l'ingénierie du micrologiciel chez Microsoft Corp. La sécurité doit aller au-delà du démarrage sécurisé pour atteindre une confiance continue pendant qu'un système est en cours d'exécution, et l'Open Compute Project et le DMTF sont les organismes de normalisation à surveiller, a ajouté Ramagiri.
Ne manquez pas l'interview complète sur theCUBE.
5. L’approvisionnement stratégique devient une décision de produit alors que l’IA met à rude épreuve la chaîne d’approvisionnement.
L'approvisionnement va désormais bien au-delà de la négociation des prix et façonne le développement des produits, les risques et l'expérience client, a souligné Alisa Wang, vice-présidente adjointe de la planification mondiale et des achats chez Credo Technology Group Holding Ltd. La demande basée sur l'IA pouvant changer en un an, les fournisseurs doivent être traités comme des partenaires stratégiques qui reçoivent rapidement les feuilles de route des produits, a-t-elle noté. La capacité logique de pointe de Taiwan Semiconductor Manufacturing Co. Ltd. constitue la contrainte la plus stricte, suivie par l'emballage, les matériaux spéciaux et les équipements critiques. En réponse, Credo qualifie les fournisseurs de deuxième source et étend son empreinte manufacturière à davantage de régions. Prasher de Stathera a mis en avant le double approvisionnement pour les segments clés et l'utilisation des commentaires des fournisseurs lors de l'introduction de nouveaux produits pour développer ensemble des produits à moindre coût.
Écoutez l’histoire complète sur theCUBE.
6. Les agents d’IA compressent la conception des puces à mesure que les cycles de développement se réduisent à six à neuf mois.
L'IA passe d'un assistant de productivité à un élément intégré des flux d'automatisation de la conception électronique, ont expliqué Rimi Dasgupta, chef de cabinet pour la gestion des produits et les marchés chez Synopsys Inc., et Vidya Neerkundar, directrice de la gestion des produits chez Siemens Digital Industries Software. Synopsys a vu la fermeture de la vérification sur les conceptions au niveau du transfert de registre s'accélérer jusqu'à 50 fois et le temps de débogage diminuer de 40 %, selon Dasgupta. La demande de silicium personnalisé optimisé pour la charge de travail a également réduit les cycles de développement de 18 mois à six à neuf mois. L'IA est probabiliste, mais les puces doivent être déterministes, c'est pourquoi Synopsys associe l'IA aux solveurs multiphysiques issus de son acquisition Ansys et travaille avec OpenAI Group PBC sur un modèle GPT-Synopsys dédié. La conception multi-puces est le prochain grand changement alors que les puces atteignent les limites du réticule, a noté Neerkundar.
Regardez la conversation complète sur theCUBE.
