• CoreWeave a mis en service un cluster NVIDIA Vera Rubin NVL72 sur plusieurs racks, reliant des centaines de GPU Rubin via Spectrum-X Ethernet
  • La société a également ajouté l’accélération des écritures interrégionales et un niveau Archive à AI Object Storage

Les faits

CoreWeave a déclaré le 16 septembre avoir mis en service, sur CoreWeave Cloud, un cluster NVIDIA Vera Rubin NVL72 réparti sur plusieurs racks, reliant des centaines de GPU Rubin via NVIDIA Spectrum-X Ethernet. Chaque rack NVL72 réunit 72 GPU Rubin et 36 CPU Vera, ainsi que NVLink 6, ConnectX-9 SuperNICs et BlueField-4 DPUs.

CoreWeave a également annoncé deux évolutions d’AI Object Storage. L’accélération des écritures interrégionales permet aux applications d’achever leurs écritures localement tandis que la réplication vers une autre région se poursuit en arrière-plan. Un nouveau niveau Archive est destiné aux données qui doivent être conservées mais consultées moins fréquemment.

La société a décrit une validation automatisée des racks couvrant la détection du matériel, les micrologiciels, l’alimentation électrique, le refroidissement et les tests de charges de travail avant l’entrée en production des systèmes. Elle n’a pas indiqué le nombre de clusters Rubin déployés, la capacité GPU totale disponible ni la part de cette capacité que les clients peuvent actuellement réserver.

L’analyse

Regrouper des centaines de GPU dans un même cluster augmente la capacité de calcul qu’un client peut mobiliser pour une charge de travail, mais cette capacité n’est utile que si les données peuvent y parvenir suffisamment vite. L’entraînement, l’inférence et les applications fondées sur des agents peuvent lire, écrire et déplacer à répétition de grands jeux de données; les délais de stockage et de réseau peuvent donc maintenir de coûteux accélérateurs en attente.

L’accélération des écritures interrégionales modifie une étape de ce parcours. Une charge de travail peut achever son écriture locale sans attendre la fin de la copie distante, CoreWeave prenant ensuite en charge la réplication. Cela peut réduire le temps qu’une application passe à attendre le stockage interrégional, même si les clients doivent toujours savoir quand la seconde copie devient disponible et où elle est stockée.

Pour les lecteurs de BTW, l’annonce concernant Rubin dépasse donc le simple jalon lié aux GPU. CoreWeave travaille également sur la chaîne de stockage associée à ces accélérateurs, car un calcul plus rapide apporte moins de valeur lorsque les traitements s’interrompent à répétition pour déplacer des données.

À surveiller

Il faudra surveiller les déploiements de clients qui indiquent la capacité Rubin réservée et les performances obtenues sur des charges de travail identifiées. Les résultats concernant le stockage devraient inclure la latence des écritures interrégionales, le délai de réplication et la tarification du nouveau niveau Archive. Ces chiffres montreraient si les évolutions du stockage réduisent les temps d’attente et les coûts parallèlement à l’augmentation de la capacité de calcul disponible.