Google a récemment lancé sa dernière puce d'IA, le TPU v5e, et présenté le « superordinateur A3 » alimenté par les GPU NVIDIA H100. Les instances de VM A3 doivent être lancées le mois prochain, marquant une avancée significative dans l'infrastructure d'IA. Google a également révélé un partenariat élargi avec le leader des puces d'IA, NVIDIA.
Performance d'entraînement doublée, inférence 2,5 fois plus rapide et réduction des coûts de 50 %
Google cherche à prendre la tête de l'entraînement en IA avec sa dernière TPU de 5e génération. Voici quelques points remarquables à souligner:
Le TPU v5e a été conçu pour améliorer les performances d'entraînement, d'inférence et le rapport coût-efficacité. Ses performances d'entraînement sont doublées et celles d'inférence sont améliorées de 2,5 fois par rapport au TPU v4.
Le TPU v5e offre ces avancées à moins de la moitié du coût, permettant un entraînement et un déploiement rentables de modèles d'IA plus volumineux. De plus, Google se tourne vers l'évolutivité, avec des configurations pouvant accueillir jusqu'à 256 puces et une puissance de calcul INT8 atteignant 100 PetaOps.
Les configurations de machines virtuelles du TPU v5e répondent aux divers besoins des utilisateurs. Cette version inclut une nouvelle fonctionnalité appelée « Multislice ». Multislice est un service pour les utilisateurs nécessitant encore plus de puissance de calcul, en distribuant les calculs des modèles sur des dizaines de milliers de puces TPU.
Google s'associe également à NVIDIA pour lancer le superordinateur virtuel A3. Cette machine est conçue pour répondre aux demandes de calcul croissantes engendrées par l'intelligence artificielle générative et les grands modèles de langage. Avec de telles avancées, la prochaine étape est prévisible: Google Cloud a intégré 20 modèles d'IA supplémentaires, portant le total des modèles pris en charge à 100. Cette nouvelle gamme d'IA offre aux clients la flexibilité de choisir parmi une variété de modèles pour répondre à leurs besoins opérationnels.