摘要
- MI325X 数据表在「AI PEAK THEORETICAL PERFORMANCE with sparsity」标题下每行印两个数字,全部条件只落在表头那一个词和一句指向脚注的提示上,检索到的文本里没有任何一个单元格自带 dense 或 sparse 标签。
- dense 与 sparse 的配对只在产品页上被明确标注,而产品页把数据表印到小数点后一位的 TFLOPS 四舍五入成 PFLOPs;独立的排名机构则用实测的 64 位稠密结果排序,把理论峰值只印在第二列。
十个数和四个数
MI325X 数据表里,标题为「AI PEAK THEORETICAL PERFORMANCE with sparsity」的区块每行两个数字,覆盖五种精度:
- TF32(TFLOPs):653.7 与 1307.4
- FP16(TFLOPs):1307.4 与 2614.9
- BFLOAT16(TFLOPs):1307.4 与 2614.9
- INT8(TOPS):2614.9 与 5229.8
- FP8(TFLOPS):2614.9 与 5229.8
紧接的「HPC PEAK THEORETICAL PERFORMANCE (TFLOPS)」区块只有一列、四行:FP64 向量 81.7;FP32 向量 163.4;FP64 矩阵 163.4;FP32 矩阵 163.4。
十四个数字,一个名词——理论峰值——没有任何一个单元格自己说明它在什么条件下成立。整张表的故事就是这一句,而几乎所有加速卡规格表在被快速浏览时也都在讲这一句。
条件在表头,不在格子里
在我检索到的数据表文本中,唯一为两列 AI 数字设定条件的就是标题本身,即「with sparsity」,再加上一句「Footnote explanations are available at:」后接 AMD 的声明页网址。按单元格标注 dense 还是 sparse 的标签,一个也没有出现。
MI300X 的数据表补了一条说明,界定这项条件不延伸到哪个系列:「The MI200 Series does not support TF32, FP8, or sparsity」(MI300X 数据表)。MI300X 平台数据表重复了同样的表头,并加上 AMD 自己的表述:「With the introduction of sparsity, AI models lacking dense data structures can be accelerated with even greater efficiency」(平台数据表)。
关于方法的说明必须放在这里,因为它统摄后文:我引用的 AMD 与 TOP500 文本来自对确切网址的检索,而不是 PDF 原生渲染或浏览器渲染。AI 区块那两列的列名没有在抽取中保留下来,脚注的上标也可能随版式丢失。数据表指向的声明页我没有取到,因此本文没有任何一句转述它说了什么。
名称出现在哪一份文件
到了产品页,区分是被标注的,而且比表格给了更多分辨率:「Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)」2.61 PFLOPs 与「Peak Eight-bit Precision (FP8) Performance with Structured Sparsity (E5M2, E4M3)」5.22 PFLOPs 并列;FP16 1.3 与 2.61;TF32 653.7 TFLOPs 与结构化稀疏下的 1.3 PFLOPs;INT8 2.6 与 5.22(MI325X 产品页、MI300X 产品页)。
两个形式上的细节值得记下。其一,FP64 与 FP32 那几行在两个产品页上都没有稀疏变体,因为稀疏是 AI 通路的性质,不是 HPC 通路的。其二,产品页把数据表印到小数点后一位的 TFLOPS 收成了 PFLOPs。拿产品页去比数据表的人,比的其实是同一个数字的两种写法,而且其中一种在路上丢掉了那一位小数。
规则是散文写的
数值条件不在表里,在 CDNA 3 白皮书里。延期脚注 MI325-019 写道:「Based on internal measurements and calculations by AMD Performance Labs as of February 2025, on an AMD Instinct MI325X GPU (1000W), 256GB HBM3E」,在 2100 MHz 峰值加速下,对比 MI250X 的 1700 MHz;它逐条列出每时钟每 CU 的 FLOPS 乘数——FP64 矩阵 256、FP64 128、FP32 256、TF32 1024、FP16/BF16 2048、FP8 4096——并以「results may vary」收尾(CDNA 3 白皮书)。
稀疏规则同样是散文,不是表注:「The Matrix Core can take advantage of situations where at least two values within a group of four input values are zero (50%+ sparsity)」,而这「enables doubling the computational throughput」(同份白皮书,稀疏规则)。
这段要慢读,因为加倍就在这里:让数字翻倍的条件,是四个输入值里至少有两个为零。稠密模型——未裁剪的矩阵乘法那种常态——不满足它。第二列的数字既不假也没有虚报,它描述的是另一种输入状况。但输入状况只有在有人写下来的时候才被写下来。
第三张表,没有稀疏列
ROCm/Instinct 文档印出第三张表,被称为 OAM 的理论峰值:FP64 矩阵 163.4;FP64 向量 81.7;FP32 矩阵 163.4;FP32 向量 163.4;TF32 向量 653.7;FP16 矩阵 1307.4;BF16 矩阵 1307.4;FP8 矩阵 2614.9;INT8 矩阵 2614.9 TFLOPS(MI300 架构文档)。
这张表没有稀疏列。还有一个标注上的细节:TF32 那行写作「Vector TF32」,而数据表把 TF32 留作未加限定。同一家厂商的三份文件,三种方式命名同一行。三份各自都不矛盾;合在一起,读者就得自己记着哪个词配的是哪一份文件里的哪个数字。
会做测量的那个排名
TOP500 印出两列,并把它们定义得很清楚:「Rmax - Maximal LINPACK performance achieved」与「Rpeak - Theoretical peak performance」。榜单首先按 Rmax 排序,只有在 Rmax 相同时才用 Rpeak 决胜(TOP500 说明)。
基准本身不是缩写:它求解「a dense system of linear equations」,运算量记作「2/3 n^3 + O(n^2) double-precision floating-point operations」,并明确排除 Strassen 一类的快速矩阵乘法、先用低于完整 64 位精度求解再迭代修正的算法,以及用整数运算模拟浮点的方法(LINPACK 基准)。FAQ 说得更直白:要进入基准报告,结果必须用「full precision」计算,而这个词一般指 64 位或更高;它把理论峰值描述为纸面计算、一个上界,以及「the number manufacturers often cite」(TOP500 常见问题)。它还附了一条历史提醒:在旧机器上,full precision 并不等于 double precision。
当 LINPACK 报告表 3 的 Rmax 不可用时,TOP500 会退回到 1000 阶方程系统的表 1 TPP 性能,少数情况下这些数值是按周期时间内插或换算的(同份说明)。也就是说,连那列实测值也有它自己印在文件里的替代程序。
我能主张的范围是有限的,所以这里就把它划出来:在我读过的七份 AMD 文件里(数据表、平台数据表、两个产品页、白皮书、架构文档),没有一份提到 TOP500;在我读过的三页 TOP500 文件里,没有一页点名这些加速卡。我也没有查看任何用这些部件搭起来的榜单系统。
我自己的算术
下面的除法是我的,不是 AMD 的:1307.4 ÷ 653.7 = 2.0;2614.9 ÷ 1307.4 = 2.0;5229.8 ÷ 2614.9 = 2.0。两列 AI 数字在每一行都严格保持 2:1。163.4 ÷ 81.7 = 2.0,所以 FP64 矩阵那一行正好是 FP64 向量那一行的两倍。而 5229.8 ÷ 81.7 = 64.0:这张表上最大的 AI 数字,是同一张表上最小的 HPC 数字的六十四倍。
每一行比值都如此整齐,本身并不耸人听闻:那是第二列由第一列翻倍而来的算术签名。读者无法从单元格重建的,是两列各自对应哪一种输入状况。那不在比例里,在那两列共享的表头里。
我记下但没有解释的一处不一致
白皮书的表 1 把 MI325X 的 FP16/BF16/INT8 记为每时钟每 CU 1024 FLOPS,而 MI300X 记为 2048,但两块芯片在同样的 2100 MHz 下印出同样的 1307.4 与 2614.9 峰值(白皮书表 1)。我检索到的摘录没有解释这处差异。
我不打算替它补桥。在这两个数字之间发明一个解释,比留着这处不一致更糟:它会把一个观察变成一套说法,并给读者一份文件本身并未提供的确定感。
读者必须自己握住的
一个浮点运算速率是有条件的数字:精度格式、矩阵通路还是向量通路、是否假定稀疏,以及最要紧的那一条——它是理论峰值还是实测结果。条件可以走在表头里,可以走在指到另一个网址的延期脚注里,可以走在白皮书的散文里,也可以只走在产品页上。而独立排名所追认的条件不是这张表里的任何一个,是那套有自己定义的基准:稠密、64 位、实测。
有了这些,读者能重算他所见的一半。没有这些,他继承的是没有人印在数字旁边的那个条件,而且是在那张把数字变成采购决定的表格里继承。这家公司在我们名录里的条目、它的文件与历史,在这里:Advanced Micro Devices, Inc.。
会员简报
阅读完整趋势简报
会员可阅读完整简报,以及每项发现背后的来源注释。
战略圈层
每天用你选择的语言,送上一份基于我们已核实变化的简报。
以 USD 20/月加入可随时取消。
会员还能使用完整的研究文库、关于所关注网络的每日简报,以及私密论坛。






