- MLCommonsstellt neue KI-Benchmark-Tests vor, die die Geschwindigkeit von KI-Chips und -Systemen bei der Generierung von Antworten aus großen Sprachmodellen messen.
- Die H100-Chips von Nvidia, zusammen mit Servern von Google, Supermicro und Nvidia, übertreffen die Konkurrenz in beiden neuen Benchmarks in Bezug auf die Rohleistung.
Am Mittwoch stellte MLCommons neue KI-Benchmark-Tests vor, um die Antwortgeschwindigkeit auf Benutzeranfragen zu messen, mit dem Ziel, die Effizienz zu verbessern.
Neue KI-Benchmark-Tests von MLCommons
Am Mittwoch stellte die KI-Benchmarking-Gruppe MLCommons eine Reihe von Tests auf und veröffentlichte mehrere Ergebnisse, um die Geschwindigkeit und Effizienz von High-End-Hardware bei der Reaktion auf Benutzerinteraktionen zu bewerten.
Unter den von MLCommons vorgestellten neuen Benchmarks konzentrieren sich zwei auf die Reaktionsfähigkeit von KI-Chips und -Systemen bei der Generierung von Ergebnissen und geben Aufschluss über die Geschwindigkeit, mit der KI-Anwendungen wie ChatGPT Antworten auf Benutzeranfragen liefern können.
Einer der neu eingeführten Benchmarks, genannt Llama 2, misst speziell die Geschwindigkeit von Frage-und-Antwort-Szenarien für große Sprachmodelle mit 70 Milliarden Parametern, die von Meta Platforms entwickelt wurden. Darüber hinaus erweiterte MLCommons seine Benchmarking-Tools um einen zweiten Text-zu-Bild-Generator namens MLPerf, der auf dem Modell Stable Diffusion XL von Stability AI basiert.
Server-Leistungsvergleich: Nvidia dominiert das Spiel
In Bezug auf die Rohleistung waren die Server mit den H100-Chips von Nvidia, einschließlich denen von Google, Supermicro und Nvidia selbst, in den letzten Benchmarks führend.
Mehrere Serverhersteller stellten Designs auf Basis des weniger leistungsstarken L40S-Chips von Nvidia vor, aber Krai präsentierte ein Design für den Bildgenerierungs-Benchmark mit einem KI-Chip von Qualcomm, der für seinen geringeren Stromverbrauch im Vergleich zu den neuesten Nvidia-Prozessoren bekannt ist.
Intel zeigte ebenfalls seine Gaudi2-Beschleunigerchips und bezeichnete die Ergebnisse als beeindruckend. Es ist jedoch wichtig zu beachten, dass der Stromverbrauch fortschrittlicher KI-Chips trotz der Bedeutung der Rohleistung eine erhebliche Herausforderung darstellt.