MLCommons führt neue KI-Benchmarks für Geschwindigkeit ein

MLCommons setzt neue KI-Benchmark-Tests zur Messung der Geschwindigkeit ein und wird von BTW Media profiliert, da öffentliche Nachweise es mit Internet-Infrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit verbinden.

• MLCommonspräsentiert neue KI-Benchmark-Tests, die die Geschwindigkeit von KI-Chips und -Systemen bei der Generierung von Antworten aus großen Sprachmodellen messen.
• Die H100-Chips von Nvidia sowie Server von Google, Supermicro und Nvidia übertreffen die Konkurrenz in beiden neuen Benchmarks bei der Rohleistung.

Am Mittwoch führte MLCommons neue KI-Benchmark-Tests ein, um die Antwortgeschwindigkeit auf Benutzeranfragen zu messen, in dem Bestreben die Effizienz zu verbessern.

Neue KI-Benchmark-Tests von MLCommons

Am Mittwoch führte die KI-Benchmarking-Gruppe MLCommons eine Reihe von Tests durch und veröffentlichte mehrere Ergebnisse, um die Geschwindigkeit und Effizienz von Spitzenhardware bei der Beantwortung von Benutzerinteraktionen zu bewerten.

Unter den von MLCommons vorgestellten neuen Benchmarks konzentrieren sich zwei auf die Reaktionsfähigkeit von KI-Chips und -Systemen bei der Ergebnisgenerierung, was Aufschluss über die Geschwindigkeit gibt, mit der KI-Anwendungen wie ChatGPT Antworten auf Benutzeranfragen liefern können.

Lesen Sie auch: Eliyan sammelt 60 Millionen US-Dollar für Chiplet-Verbindungen, die KI-Chips beschleunigen

Einer der neu eingeführten Benchmarks, Llama 2, misst speziell die Geschwindigkeit von Frage-und-Antwort-Szenarien für große Sprachmodelle mit 70 Milliarden Parametern, die von Meta Platforms entwickelt wurden. Darüber hinaus erweiterte MLCommons die Benchmarking-Tools um einen zweiten Text-zu-Bild-Generator namens MLPerf, der auf dem Modell Stable Diffusion XL von Stability AI basiert.

Server-Leistungsvergleich: Nvidia dominiert das Spiel

In Bezug auf die Rohleistung zeichneten sich Server mit Nvidia H100-Chips, einschließlich der von Google, Supermicro und Nvidia selbst, als führend in den neuesten Benchmarks aus.

Lesen Sie auch: Nvidias Rechenzentren der nächsten Generation werden mit Cloud-Anbietern zusammenarbeiten

Mehrere Serverhersteller stellten Designs auf Basis des weniger leistungsstarken Nvidia L40S-Chips vor, aber Krai präsentierte ein Design für den Benchmark zur Bilderzeugung mit einem KI-Chip von Qualcomm, der für seinen geringeren Stromverbrauch im Vergleich zu Nvidias Spitzenprozessoren bekannt ist.

Intel zeigte auch seine Beschleunigerchips Gaudi2 und hob die Ergebnisse als beeindruckend hervor. Es ist jedoch wichtig anzumerken, dass, obwohl die Rohleistung entscheidend ist, der Stromverbrauch fortschrittlicher KI-Chips eine erhebliche Herausforderung darstellt.