Meta to 10X computing power for Llama 4

• Meta, la maison mère de Facebook, a annoncé son intention d'augmenter considérablement la puissance de calcul pour entraîner son modèle de langage de nouvelle génération, Llama 4.
• Zuckerberg affirme que Llama 4 nécessite dix fois plus de ressources que Llama 3 pour rester compétitif dans l'IA. Cette décision stratégique vise à garantir que Meta reste compétitif dans le domaine de l'IA en évolution rapide.

NOTRE AVIS
L'augmentation des coûts de formation des grands modèles de langage pose des défis pour Meta et OpenAI. Bien que les investissements dans une infrastructure flexible soient cruciaux, les revenus à court terme de l'IA générative pourraient être limités. Le succès de Meta avec son chatbot IA en Inde démontre le potentiel de l'IA dans les marchés émergents, soulignant la nécessité d'une anticipation stratégique à mesure que le paysage concurrentiel évolue.
-Lilith Chen, journaliste BTW Voir aussi: Ziggo Group nomme ses dirigeants avant l'introduction en Bourse à Amsterdam en 2027.

Ce qui s'est passé

Lors d'un récent appel sur les résultats, Mark Zuckerberg a révélé que les besoins de formation pour Llama 4 devraient être nettement plus élevés que ceux de Llama 3, qui comportait 80 milliards de paramètres. Cette annonce fait suite au lancement de Llama 3.1 405B, le plus grand modèle à ce jour de Meta, affichant un impressionnant 405 milliards de paramètres. Pour répondre aux demandes croissantes des futurs projets d'IA, Zuckerberg a souligné l'importance de construire à l'avance la capacité d'infrastructure nécessaire. Il a mis en évidence les longs délais associés à la mise en place de nouveaux projets, indiquant une approche proactive du développement.

La directrice financière de Meta, Susan Li, a également partagé des informations sur la stratégie de l'entreprise, indiquant que divers projets de centres de données sont à l'étude pour améliorer ses capacités de formation en IA. Elle a noté que ces investissements devraient augmenter les dépenses en capital en 2025. Au deuxième trimestre 2024, les dépenses en capital de Meta ont augmenté de près de 33 % pour atteindre 8,5 milliards de dollars, largement tirées par des investissements importants dans les serveurs et les centres de données, soulignant l'engagement de l'entreprise à faire avancer ses initiatives en IA. Voir aussi: Alejandro Estua.

À lire aussi: Meta lance un studio d'IA pour les chatbots personnalisés

À lire aussi: Meta s'attend à une croissance des revenus publicitaires au T2, priorise l'IA et les coûts

Pourquoi c'est important

L'escalade des coûts de formation des grands modèles de langage est une préoccupation majeure dans le secteur de l'IA, alors que les entreprises s'efforcent d'améliorer leurs capacités. Pour contexte, des rapports indiquent qu'OpenAI dépense environ 3 milliards de dollars par an pour la formation des modèles et 4 milliards supplémentaires pour la location de serveurs auprès de Microsoft. Voir aussi: Alejandro Manzo.

Susan Li, directrice financière de Meta, a noté qu'à mesure que l'entreprise étend sa capacité de formation en IA générative, son infrastructure sera conçue pour la flexibilité, permettant une allocation efficace des ressources à la fois pour l'inférence IA et les tâches de classement principales. Cependant, elle a averti que Meta ne s'attend pas à des contributions de revenus substantielles des produits d'IA générative à court terme. Voir aussi: Alejandro Hernandez.

Lors de l'appel sur les résultats, Meta a également souligné le succès de son chatbot IA grand public, qui a connu un succès significatif en Inde, ce qui en fait le plus grand marché pour ce produit. Cette croissance souligne le potentiel des applications d'IA dans diverses régions. Voir aussi: Alejandro Garza.