• MLCommonsapresenta novos benchmarks de IA que medem a velocidade dos chips e sistemas de IA na geração de respostas a partir de grandes modelos de linguagem.
  • Os chips H100 da Nvidia, juntamente com servidores do Google, Supermicro e da própria Nvidia, superam os concorrentes em ambos os novos benchmarks em desempenho bruto.

Na quarta-feira, a MLCommons estabelece novos benchmarks de IA para medir a velocidade de resposta às consultas dos usuários, em um esforço para melhorar a eficiência.

Novos benchmarks de IA da MLCommons

Na quarta-feira, o grupo de avaliação comparativa de IA MLCommons estabelece uma série de testes e publica múltiplos resultados para avaliar a velocidade e eficiência do hardware de ponta ao responder às interações dos usuários.

Entre os novos benchmarks apresentados pela MLCommons, dois se concentram na capacidade de resposta dos chips e sistemas de IA ao gerar resultados, oferecendo informações sobre a velocidade com que aplicações de IA, como o ChatGPT, podem fornecer respostas às consultas dos usuários.

Leia também: Eliyan levanta US$ 60 milhões para interconexões de chiplet que aceleram chips de IA

Um dos benchmarks recém-introduzidos, denominado Llama 2, mede especificamente a velocidade dos cenários de perguntas e respostas para grandes modelos de linguagem, com 70 bilhões de parâmetros desenvolvidos pela Meta Platforms. Além disso, a MLCommons ampliou as ferramentas de avaliação comparativa incorporando um segundo gerador de texto para imagem, chamado MLPerf, baseado no modelo Stable Diffusion XL da Stability AI.

Disputa de desempenho de servidores: Nvidia domina o jogo

Em termos de desempenho bruto, os servidores equipados com os chips H100 da Nvidia, incluindo os do Google, Supermicro e da própria Nvidia, se destacaram como líderes nos últimos benchmarks.

Leia também: Os data centers de próxima geração da Nvidia trabalharão com provedores de nuvem

Vários fabricantes de servidores apresentaram projetos baseados no chip L40S menos potente da Nvidia, mas a Krai apresentou um projeto para o benchmark de geração de imagens, com um chip de IA da Qualcomm conhecido por seu menor consumo de energia em comparação com os processadores de última geração da Nvidia.

A Intel também mostrou seus chips aceleradores Gaudi2, destacando os resultados como impressionantes. No entanto, é crucial observar que, embora o desempenho bruto seja vital, o consumo de energia dos chips de IA avançados representa um desafio significativo.