要約
- MI325Xの仕様表は「AI PEAK THEORETICAL PERFORMANCE with sparsity」という表題の下で各行に二つの数値を刷り、条件はその表題と脚注への一行に預けている。取得した本文には、denseかsparseかをセルごとに示す表示は一つもない。
- denseとsparseの対は製品ページでだけ名を与えられ、しかも仕様表が小数第1位まで刷るTFLOPSをPFLOPsに丸めている。一方、独立した順位づけは実測の64ビット稠密の結果で並べ、理論上のピークは二列目に置くだけである。
十個の数と四個の数
MI325Xの仕様表で「AI PEAK THEORETICAL PERFORMANCE with sparsity」と題された欄は、五行にわたって一行二つの数値を刷っている。
- TF32(TFLOPs):653.7 と 1307.4
- FP16(TFLOPs):1307.4 と 2614.9
- BFLOAT16(TFLOPs):1307.4 と 2614.9
- INT8(TOPS):2614.9 と 5229.8
- FP8(TFLOPS):2614.9 と 5229.8
続く「HPC PEAK THEORETICAL PERFORMANCE (TFLOPS)」の欄は一列だけで四行。FP64ベクトル81.7、FP32ベクトル163.4、FP64マトリクス163.4、FP32マトリクス163.4である。
十四個の数、名詞は一つ——理論上のピーク——で、どのセルも自分の成立条件を語っていない。この一枚の話はそこに尽きる。そして、急いで読まれる加速器の仕様表は、たいてい同じ話をしている。
条件は表題にあり、セルにはない
私が取得した仕様表の本文で、AI欄の二列に条件を与えているものは表題そのもの、すなわち「with sparsity」という一語と、「Footnote explanations are available at:」に続いてAMDの主張ページのURLを置く一行だけだった。セルごとにdenseかsparseかを示す表示は出てこない。
MI300Xの仕様表は、その条件がどの系列に及ばないかを一行で画している。「The MI200 Series does not support TF32, FP8, or sparsity」(MI300Xの仕様表)。MI300Xプラットフォームの仕様表は同じ表題を繰り返したうえで、AMD自身の言い方を足す。「With the introduction of sparsity, AI models lacking dense data structures can be accelerated with even greater efficiency」(プラットフォーム仕様表)。
方法についての断りをここで一度だけ書く。以下の主張すべてに掛かる。私が引くAMDとTOP500の本文は、いずれも指定したURLからの取得であって、PDFのネイティブ描画でもブラウザ描画でもない。AI欄の二列の見出しは抽出の過程で残らず、脚注の上付き文字も組版とともに落ちている可能性がある。仕様表が指す主張ページは取得していないので、この記事のどの一文もその内容を伝えない。
名が与えられる場所
製品ページでは区別に名が付く。しかも表より細かい。「Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)」2.61 PFLOPsの隣に「Peak Eight-bit Precision (FP8) Performance with Structured Sparsity (E5M2, E4M3)」5.22 PFLOPs。FP16は1.3と2.61、TF32は653.7 TFLOPsと構造的疎の1.3 PFLOPs、INT8は2.6と5.22(MI325X製品ページ、MI300X製品ページ)。
形のうえで覚えておくべき点が二つある。第一に、FP64とFP32の行にはどちらのページにも疎の変種がない。疎はAIの経路の性質であって、HPCの経路の性質ではないからだ。第二に、製品ページは仕様表が小数第1位まで刷るTFLOPSをPFLOPsに丸める。製品ページと仕様表を突き合わせる人は、同じ数の二つの書き方を比べている。しかも片方は、その途中で小数第1位を落としている。
散文で書かれた規則
数値の条件は表の中にはない。CDNA 3の白書にある。後送りの脚注MI325-019はこう書く。「Based on internal measurements and calculations by AMD Performance Labs as of February 2025, on an AMD Instinct MI325X GPU (1000W), 256GB HBM3E」。2100 MHzのピークブーストで、MI250Xの1700 MHzと対比される。続いてクロックあたり・CUあたりのFLOPS倍率を列挙する——FP64マトリクス256、FP64 128、FP32 256、TF32 1024、FP16/BF16 2048、FP8 4096——そして「results may vary」で閉じる(CDNA 3白書)。
疎の規則も散文で書かれ、表の注にはない。「The Matrix Core can take advantage of situations where at least two values within a group of four input values are zero (50%+ sparsity)」、そしてこれが「enables doubling the computational throughput」(同じ白書、疎の規則)。
ここはゆっくり読むべき箇所だ。数を二倍にする条件は、四つの入力値のうち少なくとも二つがゼロであること。稠密なモデル——枝刈りをしていない行列積という通常の場合——はこれを満たさない。二列目の数は偽りでも水増しでもない。別の入力状況を述べているだけだ。だが入力状況は、誰かが書いたときにだけ書かれる。
疎の列がない三つ目の表
ROCm/Instinctの文書は三つ目の表を刷る。OAMの理論上のピークと説明される。FP64マトリクス163.4、FP64ベクトル81.7、FP32マトリクス163.4、FP32ベクトル163.4、TF32ベクトル653.7、FP16マトリクス1307.4、BF16マトリクス1307.4、FP8マトリクス2614.9、INT8マトリクス2614.9 TFLOPS(MI300アーキテクチャ文書)。
この表に疎の列はない。表記にもう一点ある。TF32の行は「Vector TF32」と書かれ、仕様表ではTF32が限定なしに置かれている。同じ製造元の三つの文書が、同じ行を三通りに呼ぶ。どれも単独では矛盾していない。三つ並べると、読者は表ごとにどの語がどの数に付くのかを自分で数えなければならなくなる。
測定する順位づけ
TOP500は二つの列を刷り、定義を明示する。「Rmax - Maximal LINPACK performance achieved」と「Rpeak - Theoretical peak performance」。並び順はまずRmaxで決まり、Rmaxが同じ場合にだけRpeakで決まる(TOP500の説明)。
ベンチマークは略号ではない。「a dense system of linear equations」を解き、演算量を「2/3 n^3 + O(n^2) double-precision floating-point operations」と数え、Strassen型の高速な行列積、64ビット未満の精度で解いてから反復的に改善する算法、整数演算で浮動小数点を模擬する方法を明示的に除く(LINPACKベンチマーク)。FAQはさらに直言する。ベンチマーク報告に載るには結果を「full precision」で計算する必要があり、これは概ね64ビット以上を指す。理論上のピークについては、紙の上の計算であり、上界であり、「the number manufacturers often cite」だと説明する(TOP500のFAQ)。歴史的な注意も添える。古い機械ではfull precisionとdouble precisionは同じではない。
LINPACK報告の表3のRmaxが使えない場合、TOP500は1000元連立方程式の表1 TPP性能に退き、少数の事例では値がクロック時間で内挿または換算されたという(同じ説明)。つまり、あの実測の列にも、文書に刷られた代替手続きがある。
ここで主張できる範囲は限られているので、範囲を区切っておく。私が読んだAMDの七つの文書——仕様表、プラットフォーム仕様表、二つの製品ページ、白書、アーキテクチャ文書——のいずれもTOP500に触れていない。私が読んだTOP500の三つのページのいずれも、これらの加速器を名指ししていない。これらの部品で組まれた掲載システムも見ていない。
私の計算
以下の割り算は私のもので、AMDのものではない。1307.4 ÷ 653.7 = 2.0。2614.9 ÷ 1307.4 = 2.0。5229.8 ÷ 2614.9 = 2.0。AIの二列はどの行でも厳密に2対1である。163.4 ÷ 81.7 = 2.0であり、FP64マトリクスの行はFP64ベクトルの行のちょうど二倍になる。そして5229.8 ÷ 81.7 = 64.0。この一枚に刷られた最大のAIの数は、同じ一枚に刷られた最小のHPCの数の64倍である。
どの行でも比が揃うこと自体は、騒ぎ立てる話ではない。二列目が一列目を倍にして作られたことの、算術上の署名である。読者がセルから組み直せないのは、二列がそれぞれどの入力状況に対応するのかという点だ。それは比の中にはなく、二列が共有する表題の中にある。
記録したが解かなかった不一致
白書の表1は、MI325XのFP16/BF16/INT8をクロックあたり・CUあたり1024 FLOPSとする。MI300Xは2048である。ところが両方の製品が、同じ2100 MHzで同じ1307.4と2614.9のピークを刷っている(白書の表1)。取得した抜粋はこの差を説明していない。
私はこれを自分で解かない。この二つの数の間に橋を架けてしまえば、不一致より悪くなる。観察を説明に変え、文書が与えていない確信を読者に渡すことになる。
読者が手に持つべきもの
浮動小数点の演算速度は、条件を伴う数である。精度の形式、マトリクスかベクトルか、疎を仮定しているか、そして何より、理論上のピークなのか実測の結果なのか。条件は表題の中を旅することもあれば、別のURLへ送られた後送りの脚注の中を旅することもあり、白書の散文の中にしかないことも、製品ページにしかないこともある。そして独立した順位づけが追認する条件は、この表のどれでもない。自前の定義を持つベンチマークの条件である。稠密で、64ビットで、実測である。
これがあれば、読者は目の前のものの半分を計算し直せる。これがなければ、誰も数の隣に印刷しなかった条件を相続する。しかも、その数を購買の判断に変える表の中で相続する。当社のディレクトリにあるこの会社の項目、その文書と来歴はこちらにある。Advanced Micro Devices, Inc.。
会員向け解説
トレンド解説の全文を読む
会員は解説の全文と、すべての知見を裏付ける出典メモを読めます。
ストラテジックサークル
あなたの言語で毎日届く、私たちが確認した変化に基づくブリーフィング。
USD 20/月で参加いつでも解約できます。
会員はさらに、リサーチライブラリー全編、フォロー中のネットワークに関するデイリーブリーフィング、会員限定フォーラムを利用できます。






