Resumen

  • La hoja de especificaciones del Instinct MI325X imprime dos columnas numéricas por fila en su bloque de IA y deja toda la calificación —«with sparsity»— en el encabezado del cuadro y en un puntero a las notas al pie, sin etiqueta denso/disperso en ninguna celda recuperada.
  • La pareja denso/disperso solo aparece con nombre propio en las páginas de producto, que redondean a PFLOPs lo que la ficha imprime en TFLOPS exactos; una clasificación independiente, en cambio, ordena por un resultado medido de 64 bits y publica el pico teórico como segunda columna.

Diez cifras y cuatro cifras

El bloque titulado «AI PEAK THEORETICAL PERFORMANCE with sparsity» de la ficha del MI325X imprime dos cifras por fila en cinco precisiones:

  • TF32 (TFLOPs): 653,7 y 1.307,4
  • FP16 (TFLOPs): 1.307,4 y 2.614,9
  • BFLOAT16 (TFLOPs): 1.307,4 y 2.614,9
  • INT8 (TOPS): 2.614,9 y 5.229,8
  • FP8 (TFLOPS): 2.614,9 y 5.229,8

El bloque siguiente, bajo el epígrafe «HPC PEAK THEORETICAL PERFORMANCE (TFLOPS)», tiene una sola columna y cuatro filas: FP64 vector 81,7; FP32 vector 163,4; FP64 matriz 163,4; FP32 matriz 163,4.

Catorce cifras, un único sustantivo —rendimiento máximo teórico— y ninguna celda que diga por sí misma bajo qué condición vale. Esa es la historia entera de esta hoja, y también la de casi cualquier hoja de especificaciones de acelerador que se lea rápido.

La condición está en el título, no en la celda

En el texto que recuperé de la ficha, lo único que califica las dos columnas de IA es el propio encabezado, la expresión «with sparsity», más una línea que dice «Footnote explanations are available at:» seguida de la URL de declaraciones de AMD. Ninguna etiqueta denso/disperso aparece por celda.

La ficha del MI300X añade una nota que aclara a qué familia no se extiende la calificación: «The MI200 Series does not support TF32, FP8, or sparsity» (ficha del MI300X). La ficha de plataforma del MI300X repite el encabezado y suma la formulación propia de AMD: «With the introduction of sparsity, AI models lacking dense data structures can be accelerated with even greater efficiency» (ficha de plataforma).

Una precisión sobre el método, y vale para todo lo que sigue: el texto de AMD y de TOP500 que cito aquí procede de la recuperación de las URL exactas, no de un render nativo del PDF ni del navegador. Las dos etiquetas de columna del bloque de IA no sobrevivieron a la extracción y los superíndices de las notas al pie pueden perderse con la maquetación. La página de declaraciones a la que apunta la ficha no fue recuperada, de modo que ninguna frase de este artículo informa de lo que dice.

Donde la pareja recibe nombre propio

En las páginas de producto la distinción sí está etiquetada, y con más resolución de la que el cuadro ofrece: «Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)» 2,61 PFLOPs junto a «Peak Eight-bit Precision (FP8) Performance with Structured Sparsity (E5M2, E4M3)» 5,22 PFLOPs; FP16 1,3 frente a 2,61; TF32 653,7 TFLOPs frente a 1,3 PFLOPs con dispersión estructurada; INT8 2,6 frente a 5,22 (página del MI325X, página del MI300X).

Dos detalles de forma que importan. El primero: las filas de FP64 y FP32 no llevan variante con dispersión en ninguna de las dos páginas, porque la dispersión es una propiedad del camino de IA, no del de HPC. El segundo: las páginas redondean a PFLOPs donde la ficha imprime TFLOPS exactos. Quien compare la página con la ficha está comparando dos redacciones del mismo número, y una de ellas ha perdido la tercera cifra decimal por el camino.

La regla, escrita en prosa

La condición numérica no está en el cuadro. Está en el libro blanco de CDNA 3. La nota diferida MI325-019 dice: «Based on internal measurements and calculations by AMD Performance Labs as of February 2025, on an AMD Instinct MI325X GPU (1000W), 256GB HBM3E», a 2.100 MHz de boost máximo frente a 1.700 MHz de un MI250X; enumera los multiplicadores de FLOPS por ciclo y por CU —256 en FP64 matriz, 128 en FP64, 256 en FP32, 1.024 en TF32, 2.048 en FP16/BF16, 4.096 en FP8— y cierra con «results may vary» (libro blanco de CDNA 3).

La regla de dispersión también vive en prosa, no en una nota del cuadro: «The Matrix Core can take advantage of situations where at least two values within a group of four input values are zero (50%+ sparsity)», y eso «enables doubling the computational throughput» (misma nota, regla de dispersión).

Léase despacio, porque aquí está el doble: la condición que multiplica la cifra por dos es que al menos dos de cada cuatro valores de entrada sean cero. Un modelo denso —el caso normal de una multiplicación de matrices sin poda— no la cumple. El número de la segunda columna no es falso ni está inflado; describe otra situación de entrada. Pero la situación de entrada solo se escribe cuando alguien la escribe.

Un tercer cuadro, sin columna de dispersión

La documentación de ROCm/Instinct publica una tercera tabla, descrita como el pico teórico del OAM: FP64 matriz 163,4; FP64 vector 81,7; FP32 matriz 163,4; FP32 vector 163,4; TF32 vector 653,7; FP16 matriz 1.307,4; BF16 matriz 1.307,4; FP8 matriz 2.614,9; INT8 matriz 2.614,9 TFLOPS (documentación de arquitectura MI300).

No hay columna de dispersión en esa tabla. Y hay un detalle de etiquetado: la fila de TF32 aparece como «Vector TF32», donde la ficha la deja sin calificar. Tres documentos del mismo fabricante, tres formas de nombrar la misma fila. Ninguna de las tres es incoherente por sí sola; juntas obligan al lector a llevar la cuenta de qué palabra acompaña a qué cifra en cada sitio.

La clasificación que sí mide

TOP500 publica dos columnas y las define con precisión: «Rmax - Maximal LINPACK performance achieved» y «Rpeak - Theoretical peak performance». El orden de la lista va primero por Rmax y solo se rompe por Rpeak cuando dos equipos empatan en Rmax (descripción de TOP500).

El benchmark no es una abreviatura: resuelve «a dense system of linear equations», cuenta «2/3 n^3 + O(n^2) double-precision floating-point operations» y excluye expresamente la multiplicación matricial rápida del tipo Strassen, los algoritmos que resuelven en precisión inferior a 64 bits y luego refinan iterativamente, y la emulación de coma flotante con aritmética entera (el benchmark LINPACK). La FAQ lo dice sin rodeos: para entrar en el informe del benchmark los resultados deben calcularse «using full precision», entendida como 64 bits o más; y describe el pico teórico como un cálculo sobre el papel, una cota superior y «the number manufacturers often cite» (preguntas frecuentes de TOP500). Añade una advertencia histórica que conviene retener: «full precision» no equivale a «double precision» en todos los casos antiguos.

Cuando el Rmax de la Tabla 3 del informe LINPACK no está disponible, TOP500 recurre al rendimiento TPP de la Tabla 1 para un sistema de 1.000 ecuaciones, y en algunos casos los valores se interpolaron o se escalaron por tiempos de ciclo (misma descripción). Es decir: incluso la columna medida tiene su propio procedimiento de sustitución, impreso.

El alcance de lo que puedo afirmar aquí es acotado, así que lo acoto: en los siete documentos de AMD revisados (fichas, páginas de producto, libro blanco y documentación) ninguno remite a TOP500; en las tres páginas de TOP500 revisadas no se nombra ninguno de estos aceleradores. No examiné ningún sistema de la lista construido con estas piezas.

Mi aritmética

Las divisiones que siguen son mías, no de AMD: 1.307,4 ÷ 653,7 = 2,0; 2.614,9 ÷ 1.307,4 = 2,0; 5.229,8 ÷ 2.614,9 = 2,0. Las dos columnas de IA guardan una razón exacta de 2:1 en cada fila. 163,4 ÷ 81,7 = 2,0, de modo que la fila de FP64 matriz es exactamente el doble de la de FP64 vector. Y 5.229,8 ÷ 81,7 = 64,0: la mayor cifra de IA impresa en la hoja es 64 veces la menor cifra de HPC impresa en esa misma hoja.

Que la razón sea exacta en todas las filas no es un hallazgo escandaloso: es la firma aritmética de una segunda columna construida duplicando la primera. Lo que el lector no puede reconstruir desde la celda es qué condición de entrada corresponde a cada una de las dos. Eso no está en la proporción; está en el encabezado que ambas comparten.

La inconsistencia que anoté y no resolví

La Tabla 1 del libro blanco asigna al MI325X 1.024 FLOPS por ciclo y por CU en FP16/BF16/INT8, frente a 2.048 en el MI300X, mientras ambas piezas imprimen las mismas cifras de pico —1.307,4 y 2.614,9— a los mismos 2.100 MHz (libro blanco, Tabla 1). El extracto recuperado no explica la diferencia.

No la voy a resolver por mi cuenta. Un puente inventado entre esos dos números sería peor que la inconsistencia: convertiría una observación en una explicación y le daría al lector una seguridad que el documento no ofrece.

Qué tiene que sostener el lector

Que una cifra de rendimiento en coma flotante es una cifra con condiciones: formato de precisión, ruta matriz o vector, supuesto de dispersión y, por encima de todo, si es pico teórico o resultado medido. Que la condición puede viajar en el título del cuadro, en una nota diferida a otra URL, en prosa dentro de un libro blanco o solo en la página de producto. Y que la calificación que ratifica una clasificación independiente no es la del cuadro, sino la de un benchmark con su propia definición: densa, de 64 bits y medida.

Con eso, el lector puede recalcular la mitad de lo que ve. Sin eso, hereda la condición que nadie imprimió junto al número, y la hereda en la hoja de cálculo donde la convierte en una decisión de compra. El expediente de la compañía en nuestro directorio, con sus documentos y su historial, está aquí: Advanced Micro Devices, Inc..