- MLCommonspresenta nuevas pruebas de referencia de IA que miden la velocidad de los chips y sistemas de IA en la generación de respuestas a partir de grandes modelos de lenguaje.
- Los chips H100 de Nvidia, junto con servidores de Google, Supermicro y Nvidia, superan a los competidores en ambos nuevos benchmarks en rendimiento bruto.
El miércoles, MLCommons establece nuevas pruebas de referencia de IA para medir la velocidad de respuesta a las consultas de los usuarios, en un esfuerzo por mejorar la eficiencia.
Nuevas pruebas de referencia de IA de MLCommons
El miércoles, el grupo de evaluación comparativa de IA MLCommons establece una serie de pruebas y publica múltiples resultados para evaluar la velocidad y eficiencia del hardware de primer nivel al responder a las interacciones de los usuarios.
Entre los nuevos benchmarks presentados por MLCommons, dos se centran en la capacidad de respuesta de los chips y sistemas de IA al generar resultados, lo que ofrece información sobre la velocidad a la que aplicaciones de IA, como ChatGPT, pueden proporcionar respuestas a las consultas de los usuarios.
Uno de los benchmarks recién introducidos, denominado Llama 2, mide específicamente la velocidad de los escenarios de preguntas y respuestas para grandes modelos de lenguaje, con 70 mil millones de parámetros desarrollados por Meta Platforms. Además, MLCommons amplió las herramientas de evaluación comparativa incorporando un segundo generador de texto a imagen, llamado MLPerf, basado en el modelo Stable Diffusion XL de Stability AI.
Enfrentamiento de rendimiento de servidores: Nvidia domina el juego
En términos de rendimiento bruto, los servidores equipados con los chips H100 de Nvidia, incluidos los de Google, Supermicro y la propia Nvidia, se destacaron como líderes en los últimos benchmarks.
Lea también: Los centros de datos de próxima generación de Nvidia trabajarán con proveedores de nube
Varios fabricantes de servidores presentaron diseños basados en el chip L40S menos potente de Nvidia, pero Krai presentó un diseño para el benchmark de generación de imágenes, con un chip de IA de Qualcomm conocido por su menor consumo de energía en comparación con los procesadores de última generación de Nvidia.
Intel también mostró sus chips aceleradores Gaudi2, destacando los resultados como impresionantes. Sin embargo, es crucial señalar que si bien el rendimiento bruto es vital, el consumo de energía de los chips de IA avanzados plantea un desafío significativo.