Sundar Pichai, PDG de Google, a annoncé que les TPU Trillium ont été utilisés pour l’intégralité de l’entraînement et de l’inférence de Gemini 2.0. Au total, ce sont plus de 100 000 puces Trillium qui sont interconnectées au sein d’un même réseau, créant l’un des superordinateurs IA les plus puissants au monde.
La puce affiche une augmentation de 4,7 fois des performances de calcul par rapport à son prédécesseur. Elle double également la capacité de mémoire à haute bande passante et la bande passante d’interconnexion entre les puces. Plus remarquable encore, elle réalise une amélioration de 67 % en efficacité énergétique, un aspect crucial face à la consommation électrique croissante des data centers
Pour aller plus loin
La puce quantique de Google « ouvrirait une fenêtre sur les univers parallèles » : vrai ou faux ?
Trillium pourrait être un tournant pour l’IA
Mark Lohmeyer, vice-président de l’infrastructure de calcul et d’IA chez Google Cloud, met en avant les capacités de mise à l’échelle exceptionnelles de Trillium. Les tests sur le modèle Llama-2-70B démontrent une efficacité de mise à l’échelle de 99 %, un excellent résultat pour le calcul distribué à cette échelle.
L’impact économique de Trillium pourrait donc être considérable. Google affirme que la puce offre une amélioration de 2,5 fois des performances d’entraînement par dollar investi. Cette efficacité pourrait transformer l’accessibilité du développement IA pour les entreprises et les startups.
L’infrastructure IA Hypercomputer de Google, qui intègre ces puces Trillium, est un système qui combine les puces avec un réseau Jupiter capable de gérer 13 pétabits par seconde de bande passante bisectionnelle, permettant des tâches d’entraînement distribuées à une échelle sans précédent.
Bien que Nvidia reste la référence pour de nombreuses applications, l’approche sur mesure de Google pourrait offrir des avantages spécifiques, notamment pour l’entraînement de très grands modèles. Il reste maintenant à voir comment va réagir Nvidia, qui prépare à son tour ses propres CPU avec des puces ARM.
Pour ne rater aucun bon plan, rejoignez notre nouveau channel WhatsApp Frandroid Bons Plans, garanti sans spam !
Ce contenu est bloqué car vous n'avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par Disqus.
Pour pouvoir le visualiser, vous devez accepter l'usage étant opéré par Disqus avec vos données qui pourront être utilisées pour les finalités suivantes : vous permettre de visualiser et de partager des contenus avec des médias sociaux, favoriser le développement et l'amélioration des produits d'Humanoid et de ses partenaires, vous afficher des publicités personnalisées par rapport à votre profil et activité, vous définir un profil publicitaire personnalisé, mesurer la performance des publicités et du contenu de ce site et mesurer l'audience de ce site (en savoir plus)
En cliquant sur « J’accepte tout », vous consentez aux finalités susmentionnées pour l’ensemble des cookies et autres traceurs déposés par Humanoid et ses partenaires.
Vous gardez la possibilité de retirer votre consentement à tout moment. Pour plus d’informations, nous vous invitons à prendre connaissance de notre Politique cookies.
Gérer mes choix