Google affirme que son supercalculateur est plus rapide que celui de NVIDIA
Charles Gouin-Peyrot
Publié le 05 avril 2023 · 3 min de lecture
L'utilisation de ces puces représente plus de 90 % des travaux de formation à l'IA de l'entreprise, ce qui souligne leur importance cruciale dans le succès de Google dans ce domaine. Dans sa dernière publication, Google a révélé des informations sur sa TPU de quatrième génération, démontrant comment la société a utilisé des commutateurs optiques sur mesure pour connecter plus de 4 000 puces dans un seul superordinateur. Cette avancée permet au superordinateur de Google de réorganiser les connexions entre les puces en temps réel, améliorant ainsi ses performances et évitant les problèmes éventuels.
L'essor des grands modèles de langage dans l'IA a suscité une concurrence intense entre les entreprises qui construisent des superordinateurs. Le modèle PaLM de Google, le plus grand modèle de langage divulgué publiquement à ce jour, a nécessité plus de 50 jours de formation en le répartissant sur deux superordinateurs dotés de 4 000 puces. Les interconnexions flexibles de Google aident à surmonter ce défi en permettant à l'entreprise de modifier la topologie des interconnexions de ses superordinateurs à la volée.
Le superordinateur de Google a déjà été utilisé par la startup Midjourney pour entraîner son modèle, qui génère des images à partir de textes. Dans un article récent, Google a révélé que son superordinateur est 1,7 fois plus rapide et 1,9 fois plus économe en énergie qu'un système basé sur la puce A100 de Nvidia pour un système de même taille. Google n'a pas comparé son produit de quatrième génération à la puce H100 de Nvidia, mais il semblerait que Google travaille sur une nouvelle TPU pour concurrencer la dernière offre de Nvidia. L'auteur
Charles Gouin-Peyrot
Journaliste tech et testeur indépendant, je décrypte la tech grand public. Spécialisé dans le hardware, l'audio et la maison connectée, je mets ma rigueur technique et mon expérience de formateur au service de mes tests. Mon objectif est simple : dépasser les fiches techniques pour vous livrer des analyses transparentes, impartiales et ancrées dans un usage 100 % réel.