• CoreWeave は複数ラック構成の NVIDIA Vera Rubin NVL72 クラスターを稼働させ、Spectrum-X Ethernet を介して数百基の Rubin GPU を接続した
  • 同社は AI Object Storage にリージョン間書き込みアクセラレーションと Archive ティアも追加した

事実

CoreWeave は9月16日、CoreWeave Cloud 上で複数ラック構成の NVIDIA Vera Rubin NVL72 クラスターを稼働させ、NVIDIA Spectrum-X Ethernet を介して数百基の Rubin GPU を接続したと発表した。各 NVL72 ラックは、72基の Rubin GPU と36基の Vera CPU を組み合わせ、NVLink 6、ConnectX-9 SuperNICs、BlueField-4 DPUs も備える。

CoreWeave は AI Object Storage についても2つの変更を発表した。リージョン間書き込みアクセラレーションにより、別のリージョンへのレプリケーションがバックグラウンドで続く間も、アプリケーションはローカルで書き込みを完了できる。新たな Archive ティアは、保持する必要はあるものの、アクセス頻度が低いデータを想定している。

同社は、システムを本番環境に投入する前に、ハードウェア検出、ファームウェア、電力、冷却、ワークロードを対象とするテストを含むラック自動検証を行うと説明した。配備済みの Rubin クラスター数、利用可能な GPU 総容量、現時点で顧客が予約できる容量は明らかにしなかった。

評価

数百基の GPU を1つのクラスターにまとめることで、顧客が1つのワークロードに投入できる計算能力は増える。しかし、その能力が役立つのは、データを十分な速さで届けられる場合に限られる。学習、推論、エージェント型アプリケーションは大規模データセットの読み取り、書き込み、移動を繰り返すため、ストレージやネットワークの遅延によって高価なアクセラレーターが待機状態になることがある。

リージョン間書き込みアクセラレーションは、その経路の一部を変える。ワークロードはリモートコピーの完了を待たずにローカル書き込みを終え、その後のレプリケーションは CoreWeave が処理する。これにより、アプリケーションがリージョン間ストレージを待つ時間を短縮できる可能性がある。ただし顧客は、2つ目のコピーがいつ利用可能になるのか、どこに保存されるのかを把握する必要がある。

したがって BTW の読者にとって、Rubin の発表は単なる GPU の節目ではない。CoreWeave は、高速な計算処理もジョブがデータ移動のために繰り返し停止すれば価値が薄れるため、アクセラレーターを支えるストレージ経路にも取り組んでいる。

今後の注目点

顧客による導入事例で、予約済みの Rubin 容量と、対象が明示されたワークロードでの性能が開示されるかに注目したい。ストレージの結果には、リージョン間書き込み遅延、レプリケーション時間、新しい Archive ティアの料金を含める必要がある。これらの数値により、利用可能な計算能力の増加とあわせて、ストレージ変更が待ち時間とコストを減らすかどうかを判断できる。