요약
- MI325X 데이터시트는
AI PEAK THEORETICAL PERFORMANCE with sparsity라는 제목 아래에서 정밀도마다 두 개의 숫자 열을 인쇄한다 — TF32는 653.7과 1307.4 TFLOPs, FP16과 BFLOAT16은 1307.4와 2614.9, INT8과 FP8은 2614.9와 5229.8 — 그리고 검색된 텍스트 어디에도 셀 단위 표시는 없다. - 「조밀/희소」라는 쌍은 제품 페이지에서만 이름을 얻고, 50% 희소성 규칙은 아키텍처 기술 문서의 산문으로 적히며, ROCm 문서의 세 번째 표에는 희소성 열이 아예 없고, 독립 순위표는 64비트 조밀 산술에서 측정한 값으로 정렬한다. 아래의 2:1과 64:1 비율은 문서의 주장이 아니라 나의 계산이다.
두 개의 열, 한 개의 행, 어떤 표시도 없음
Instinct MI325X 데이터시트는 AI PEAK THEORETICAL PERFORMANCE with sparsity라는 제목 아래 표를 인쇄하며, 모든 정밀도 행에 두 개의 숫자 값이 들어 있다. TF32는 653.7과 1307.4 TFLOPs. FP16은 1307.4와 2614.9. BFLOAT16도 같은 1307.4와 2614.9. INT8은 2614.9와 5229.8 TOPS. FP8은 2614.9와 5229.8 TFLOPS. 같은 시트는 별도로 HPC PEAK THEORETICAL PERFORMANCE (TFLOPS) 블록을 제시하며, 그곳에는 행마다 값이 하나씩이다. FP64 벡터 81.7, FP32 벡터 163.4, FP64 매트릭스 163.4, FP32 매트릭스 163.4.
검색된 텍스트에서 AI용 두 열을 규정하는 것은 제목 자체와 Footnote explanations are available at:이라는 문장, 그리고 AMD 설명 페이지로 향하는 링크다. 어느 셀에도 「조밀」이나 「희소」라는 단어는 없다. 독자는 두 개의 열을 보고, 어느 하나를 인용하기 전에 두 번째 열이 새 제품이 이전 제품을 개선하는 의미의 향상이 아니라는 사실을 스스로 판단해야 한다. 그것은 같은 물리적 속도를 다른 산술 전제 아래에서 본 값이다.
MI300X 데이터시트는 같은 표를 반복하고 세대를 구분하는 각주를 더한다: *The MI200 Series does not support TF32, FP8, or sparsity*. MI300X 플랫폼 데이터시트는 같은 제목을 반복하고 AMD 자신의 문장을 더한다: With the introduction of sparsity, AI models lacking dense data structures can be accelerated with even greater efficiency. 문서 셋, 같은 조건에 대한 표현 셋, 그리고 그중 어느 것도 셀 안에 있지 않다.
쌍이 이름을 얻는 곳
MI325X와 MI300X 제품 페이지는 내가 확인한 문서 중 조밀과 희소가 고유한 이름과 값 옆에 나란히 서는 유일한 장소다. 그곳에서 FP8은 Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)로 2.61 PFLOPs에 인쇄되고, 한 줄 아래에 Peak Eight-bit Precision (FP8) Performance with Structured Sparsity (E5M2, E4M3)가 5.22 PFLOPs로 인쇄된다. FP16은 1.3 대 2.61 PFLOPs로, TF32는 653.7 TFLOPs 대 구조적 희소성 적용 1.3 PFLOPs로, INT8은 2.6 대 5.22로 표시된다. FP64와 FP32 행은 두 페이지 어디에도 희소성 변형이 없다.
두 표면 사이에는 숫자 해상도 차이가 있다. 시트는 653.7과 1307.4를 인쇄하고, 페이지는 653.7 TFLOPs와 1.3 PFLOPs를 인쇄한다. 즉 같은 숫자를 반올림한 것이다. 시트와 페이지를 비교하는 사람은 시트가 1307.4라고 말하는 자리에서 1.3을 발견한다. 같은 값의 다른 단위이고, 바로 그 비율을 다시 계산하는 데 쓰이는 숫자를 지우는 반올림이다.
산문으로 적힌 규칙
CDNA 3 아키텍처 기술 문서에서 조건은 제목을 떠나 선언된 규칙이 된다: The Matrix Core can take advantage of situations where at least two values within a group of four input values are zero (50%+ sparsity), 그리고 이것은 enables doubling the computational throughput이다. 규칙은 정확하고 검증 가능하다. 네 개씩 묶인 입력 값 가운데 최소 절반이 0이어야 하고, 처리량은 두 배가 된다. 이것은 애플리케이션에서 측정한 속도가 아니라 입력 데이터에 대한 조건이다.
같은 기술 문서는 각주 MI325-019를 그대로 옮겨 나머지 조건 집합을 고정한다: Based on internal measurements and calculations by AMD Performance Labs as of February 2025, on an AMD Instinct MI325X GPU (1000W), 256GB HBM3E. 피크 부스트는 2100 MHz로 MI250X의 1700 MHz와 대비되고, 컴퓨트 유닛당 클록당 부동소수점 연산 배수(FP64 매트릭스 256, FP64 128, FP32 256, TF32 1024, FP16/BF16 2048, FP8 4096)가 나열되며, 마지막에 results may vary가 붙는다. 여기 한자리에 피크 속도를 숫자로 만드는 매개변수, 즉 클록과 전력과 메모리와 컴퓨트 유닛당 카운터가 함께 있다.
세 번째 표, 희소성 열 없음
MI300 시리즈 ROCm 문서는 OAM 이론 피크로 설명된 세 번째 표를 인쇄하며, 그 안에는 희소성 열이 아예 없다. FP64 매트릭스 163.4, FP64 벡터 81.7, FP32 매트릭스 163.4, FP32 벡터 163.4, TF32 벡터 653.7, FP16 매트릭스 1307.4, BF16 매트릭스 1307.4, FP8 매트릭스 2614.9, INT8 매트릭스 2614.9, 모두 TFLOPS 단위다. 그곳에서 TF32 행은 벡터로 표시되지만, 데이터시트는 TF32에 경로 표시를 두지 않는다. 같은 제조사의 문서 셋, 같은 양에 대한 표기 관례 셋.
측정하는 관례
독립 순위표는 다른 기준을 쓰고, 그 기준을 인쇄한다. TOP500 설명은 두 열을 정의한다: Rmax - Maximal LINPACK performance achieved와 Rpeak - Theoretical peak performance. 정렬 규칙도 그곳에 있다: In the TOP500 List table, the computers are ordered first by their Rmax value. In the case of equal performances (Rmax value) for different computers, we have chosen to order by Rpeak. 첫째 열은 측정이고, 둘째 열은 종이 위의 계산이며, 동률을 가르는 데만 쓰인다.
그 측정이 무엇을 측정하는지는 Linpack 테스트 페이지가 말한다. a dense system of linear equations를 풀고, 연산 카운터는 2/3 n^3 + O(n^2) double-precision floating-point operations다. 같은 페이지는 세 가지 지름길을 명시적으로 배제한다. 슈트라센 방식 같은 빠른 행렬 곱셈 알고리즘, 64비트 미만 정밀도로 계산한 뒤 반복적으로 보정한 해, 그리고 소프트웨어에서 정수 연산으로 부동소수를 에뮬레이션하는 방법.
TOP500 FAQ는 느리게 읽어야 할 문장으로 경계를 닫는다: In order to have an entry included in the Linpack Benchmark report the results must be computed using full precision. By full precision we generally mean 64 bit floating point arithmetic or higher. 같은 FAQ는 이론 피크를 종이 위의 계산, 상한, 그리고 the number manufacturers often cite라고 부른다. 또 full precision이 모든 역사적 사례에서 double precision과 일치하지는 않는다고 경고한다. 옛 Cray 기계는 REAL을 64비트로 선언했다. 즉 측정 열은 조밀이고 64비트이며, 제조사가 흔히 인용하는 열은 보통 다른 쪽이다.
검증된 부재는 읽은 범위에 한정된다. 확인한 AMD 문서 중 어느 것도 TOP500을 참조하지 않고, 확인한 TOP500 페이지 셋 중 어느 것도 이 가속기를 지목하지 않는다. 이 부품으로 지어진 목록의 어떤 시스템도 나는 조사하지 않았다.
나의 산술
여기 적힌 비율은 인쇄된 값에 대한 나의 계산이며, 어떤 문서의 주장도 아니다. 1307.4 ÷ 653.7 = 2.0. 2614.9 ÷ 1307.4 = 2.0. 5229.8 ÷ 2614.9 = 2.0. AI용 모든 행에서 두 열은 정확히 2:1 관계에 있다. HPC 블록에서는 163.4 ÷ 81.7 = 2.0, FP64 매트릭스 행이 벡터 행의 정확히 두 배다. 그리고 5229.8 ÷ 81.7 = 64.0, 같은 시트에서 가장 큰 AI 인쇄 값이 가장 작은 HPC 인쇄 값의 64배다.
이 계산이 확립하는 것은 소박하면서 동시에 유용하다. 두 열은 두 개의 제품이 아니라 제품과 전제이며, AI 표의 꼭대기와 HPC 블록 사이의 거리는 한 페이지짜리 한 문서 안에서 2의 거듭제곱으로 두 자릿수다. 같은 시트에서 「5229.8 TFLOPS」와 「163.4 TFLOPS」를 인용하는 사람은 같은 하드웨어를 64배 간격의 두 지점에서 인용하며, 두 인용 모두 틀리지 않다.
내가 기록하고 해결하지 않는 불일치
기술 문서의 표 1은 MI325X에 대해 FP16·BF16·INT8에서 컴퓨트 유닛당 클록당 1024 부동소수점 연산을 제시하는데, MI300X는 2048이다. 그런데 두 부품 모두 같은 2100 MHz 클록에서 같은 피크 1307.4와 2614.9를 인쇄한다. 검색된 발췌는 그 차이를 설명하지 않는다. 나는 이것을 읽은 텍스트 안의 설명되지 않은 내부 불일치로 기록하고, 빠진 다리를 메우지 않는다. 어떤 조정이든 그것은 문서가 아니라 나의 것이 되며, 바로 그 연결고리를 독자는 출처로 확인해야 한다.
독자가 가져가야 할 것
이 기사가 딛고 선 AMD와 TOP500 텍스트 전체는 정확한 URL에서 추출한 것이며 PDF나 브라우저의 원형 렌더링이 아니다. AI용 두 열의 표기 모두 추출 과정에서 살아남지 못했고, 각주 위첨자는 조판과 함께 사라졌을 수 있다. 데이터시트가 가리키는 설명 페이지는 추출하지 않았고, 이 글의 어떤 문장도 그곳에 무엇이 적혀 있는지 전하지 않는다. 가격도, 주문도, 출하도, 매출도, 고객도 여기 없다.
남는 것은 읽기 규칙이다. 부동소수점 피크 속도는 최소 네 가지 조건을 셀 밖에 지닌다. 정밀도 형식, 매트릭스 또는 벡터 경로, 희소성 전제, 그리고 이론 피크와 측정 사이의 거리. MI325X 데이터시트는 그 넷을 모두 인쇄한다. 둘은 제목에, 하나는 각주에, 하나는 HPC 블록에. 그리고 두 개의 열을 인쇄하면서 각 셀에 어느 조건이 작동하는지 말하지 않는다. 숫자를 옮기는 것은 쉽다. 조건을 옮기려면 문서 셋을 더 열어야 한다. BTW 디렉터리의 회사 항목은 법인을 기록한다. 조건은 기록하지 않는다.
회원 브리핑
트렌드 브리핑 전문 읽기
회원은 브리핑 전문과 모든 발견을 뒷받침하는 출처 메모를 읽을 수 있습니다.
전략 서클
선택한 언어로 매일 제공되는, 우리가 확인한 변화를 바탕으로 한 브리핑.
USD 20/월로 가입하기언제든지 취소할 수 있습니다.
회원은 전체 리서치 라이브러리, 팔로우하는 네트워크에 대한 일일 브리핑, 비공개 포럼도 이용할 수 있습니다.






