摘要

  • オラクルは最大 131,072 基の GPU を接続する zettascale クラウドクラスタを公表しているが、同一の文書は、インスタンス供給が RDMA ネットワークの空きホスト容量に制限され、専用の容量確認インタフェースが用意されていると記す。
  • OCI のクラスタ・ネットワークは、層ごとに異なる遅延を文書化しており、最大構成時の通信特性は単一の数値では表せない。
  • テナンシーの既定クォータは、公表された最大構成より小さな単位で供給を区切る。
  • 公表された上限と、利用者が実際に予約できる規模は別の指標であり、両者を混同すると調達判断を誤る。

甲骨文が公開している zettascale クラスタの最大構成は、加速器の世代ごとに異なる。A100 を対象としたソリューション文書は「最大 4,096 台のベアメタルノード、各 8 基の GPU、すなわち 32,768 基の GPU」と記し、より新しい世代の構成では 131,072 基という数字が示される。この上限は単一の定数ではなく、世代と構成に応じて更新される公表値である。

同じ OCI のドキュメントは、この公表値をそのまま利用者が確保できるとは書いていない。クラスタ・ネットワークの作成に関する記述では、GPU インスタンスの払い出しが RDMA ネットワーク内の利用可能なホスト容量に依存し、容量確認のための専用インタフェースが提供されると説明されている。つまり、公表された上限は需要側の希望であり、供給側の実際の制約は別に文書化されている。

第2の制約は遅延である。OCI のクラスタ・ネットワークは層ごとに異なるレイテンシを文書化しており、最大構成に近づくほど、すべての GPU が同じ通信特性で結ばれるわけではない。大規模な学習では、通信の待ち時間が実効スループットを決めるため、公称の GPU 数だけでは性能を見積もれない。

第3の制約はクォータである。テナンシーの既定クォータは、公表された最大構成より小さな単位で供給を区切る。大規模な予約には引き上げの申請が必要であり、承認の可否と時期は公表値とは独立している。

結論として、公表された 131,072 基という数字は、利用者が実際に予約できる規模を示す指標ではない。調達や計画では、空きホスト容量、層ごとの遅延、既定クォータという 3 つの文書化された制約を合わせて確認する必要がある。

出典