• Una versión de los chips de memoria de alto ancho de banda (HBM) de quinta generación de Samsung Electronics, o HBM3E, ha superado las pruebas de Nvidia para su uso en sus procesadores de inteligencia artificial, según tres fuentes informadas sobre los resultados.
  • Este desarrollo marca un hito significativo en la colaboración entre los dos gigantes tecnológicos y señala un paso adelante en el avance de la tecnología de IA.

NUESTRO ANÁLISIS
Nvidia es una empresa pionera en el campo de las unidades de procesamiento gráfico (GPU) y procesadores de IA, dedicada a avanzar en las tecnologías informáticas para una amplia gama de aplicaciones. Samsung Electronics es un fabricante de electrónica de consumo y semiconductores de renombre mundial, conocido por sus productos innovadores y avanzados que impulsan el progreso de la industria. Los chips HBM3E de Samsung en los procesadores de IA de Nvidia prometen velocidades más rápidas, mayor eficiencia y la capacidad de gestionar modelos de IA más grandes y complejos, impulsando la innovación en IA.
–Rebecca Xu, reportera de BTW

¿Qué ocurrió?

Según tres fuentes informadas sobre el asunto, una variante de los chips de memoria de alto ancho de banda (HBM) de próxima generación de Samsung Electronics, conocidos como HBM3E, ha superado con éxito las evaluaciones de Nvidia para su integración en sus procesadores de inteligencia artificial.

Aunque Samsung y Nvidia aún no han formalizado un acuerdo de suministro para los chips HBM3E de 8 capas probados, fuentes internas anticipan que el acuerdo se cerrará pronto, y se prevé que las entregas comiencen en el cuarto trimestre de 2024.

HBM, un estándar deDRAM(memoria de acceso aleatorio dinámica) introducido en 2013, apila chips verticalmente para ahorrar espacio y reducir el consumo de energía. Es fundamental para las GPU de IA, ya que ayuda a procesar grandes volúmenes de datos de aplicaciones complejas. Según la firma de investigaciónTrendForce, es probable que los chips HBM3E se conviertan en el producto HBM principal del mercado este año, con envíos concentrados en la segunda mitad.

Lea también:Samsung pronostica un aumento de la demanda de chips impulsado por IA

Lea también:El retraso en los chips de IA de Nvidia es una prueba para la cadena de suministro de la tecnología de IA

Por qué es importante

La adopción de los chips HBM3E de 8 capas de Samsung por parte de Nvidia tendrá un impacto significativo en el futuro de la tecnología de IA, particularmente en la mejora del rendimiento y la eficiencia.

En primer lugar, los chips HBM3E ofrecen un aumento sustancial en el ancho de banda de memoria, lo cual es crucial para los procesadores de IA que manejan cargas de trabajo complejas. Los chips proporcionan una velocidad de datos de 9,6 Gb/s, lo que supone una mejora con respecto a los 6,4 Gb/s ofrecidos por HBM3, lo que da como resultado más de 1200 GB/s de ancho de banda de memoria en comparación con los 819 GB/s de la generación anterior. Este salto en el ancho de banda permite el procesamiento de modelos de IA más grandes y sofisticados, mejorando así el rendimiento de las aplicaciones de IA.

En segundo lugar, los chips HBM3E están diseñados con tecnologías avanzadas comocompuertas metálicas high-k(HKMG) que reducen la fuga de corriente eléctrica, optimizan la circuitería interna y mejoran la eficiencia energética en un 12 % en comparación con la generación anterior. Este aumento de eficiencia es vital para los procesadores de IA que requieren un alto ancho de banda de memoria con un menor consumo de energía, asegurando que puedan funcionar en rangos de temperatura óptimos sin comprometer el rendimiento.

Además, los chips HBM3E de Samsung son los primeros del mundo y son un 50 % más rápidos que los HBM3 actuales, ofreciendo un total de 10 TB/s de ancho de banda combinado. Esto permite que la nueva plataforma ejecute modelos 3,5 veces más grandes que la versión anterior, al tiempo que mejora el rendimiento con un ancho de banda de memoria 3 veces más rápido. La capacidad de conectar múltiples GPU para un rendimiento excepcional y un diseño de servidor fácilmente escalable amplifica aún más el potencial de los procesadores de IA para abordar cargas de trabajo de IA generativa más extensas.