Samsungs HBM3E-8-Schicht-Chips bestehen Nvidias Tests für Adoption

Samsungs 8-Schicht-HBM3E-Chips bestehen Nvidias Tests für Adoption wird von BTW Media profiliert, weil veröffentlichte Belege es mit Internetinfrastruktur, Governance, betrieblichen Abhängigkeiten oder Marktsichtbarkeit in Verbindung bringen.

• Eine Version der Speicherchips mit hoher Bandbreite (HBM) der fünften Generation von Samsung Electronics, oder HBM3E, hat Nvidias Tests für den Einsatz in seinen KI-Prozessoren bestanden, so drei mit den Ergebnissen vertraute Quellen.
• Diese Entwicklung markiert einen wichtigen Schritt in der Zusammenarbeit zwischen den beiden Technologiegiganten und signalisiert einen Fortschritt in der KI-Technologie.

UNSERE MEINUNG
Nvidia ist ein Pionierunternehmen im Bereich der Grafikprozessoren (GPU) und KI-Prozessoren, das sich der Weiterentwicklung der Computertechnologie für eine breite Palette von Anwendungen widmet. Samsung Electronics ist ein weltbekannter Hersteller von Unterhaltungselektronik und Halbleitern, bekannt für seine innovativen und fortschrittlichen Produkte, die die Branche voranbringen. Samsungs HBM3E-Chips in Nvidias KI-Prozessoren versprechen höhere Geschwindigkeiten, bessere Effizienz und die Fähigkeit, größere und komplexere KI-Modelle zu bewältigen, und treiben so die KI-Innovation voran.
–Rebecca Xu, BTW-Journalistin

Was geschah

Laut drei mit der Angelegenheit vertrauten Quellen hat eine Variante der nächsten Generation von Samsung Electronics' Speicherchips mit hoher Bandbreite (HBM), bekannt als HBM3E, die Bewertungen von Nvidia für die Integration in seine KI-Prozessoren erfolgreich bestanden.

Obwohl Samsung und Nvidia noch keine Liefervereinbarung für die getesteten 8-Schicht-HBM3E-Chips offiziell gemacht haben, erwarten Insider, dass die Vereinbarung in Kürze abgeschlossen wird, mit Lieferungen, die für das vierte Quartal 2024 geplant sind.

Der HBM-Standard, ein 2013 eingeführter DRAM-Speicher (Dynamic Random Access Memory), stapelt die Chips vertikal, um Platz zu sparen und den Stromverbrauch zu senken. Er ist für KI-GPUs unerlässlich, da er bei der Verarbeitung großer Datenmengen aus komplexen Anwendungen hilft. HBM3E-Chips werden voraussichtlich in diesem Jahr zum dominierenden HBM-Produkt auf dem Markt werden, wobei die Auslieferungen im zweiten Halbjahr konzentriert sind, so das Forschungsunternehmen TrendForce.

Lesen Sie auch:Samsung prognostiziert KI-getriebenen Anstieg der Chipnachfrage

Lesen Sie auch:Nvidias KI-Chip-Verzögerung ist ein Test für die KI-Lieferkette

Warum es wichtig ist

Die Übernahme von Samsungs 8-Schicht-HBM3E-Chips durch Nvidia dürfte die Zukunft der KI-Technologie erheblich beeinflussen, insbesondere durch die Verbesserung von Leistung und Effizienz.

Erstens bieten die HBM3E-Chips eine deutliche Steigerung der Speicherbandbreite, was für KI-Prozessoren, die komplexe Arbeitslasten verarbeiten, entscheidend ist. Die Chips bieten eine Datenrate von 9,6 Gb/s, eine Verbesserung gegenüber 6,4 Gb/s von HBM3, was zu mehr als 1.200 GB/s Speicherbandbreite führt, verglichen mit 819 GB/s der Vorgängergeneration. Dieser Bandbreitensprung ermöglicht die Verarbeitung größerer und anspruchsvollerer KI-Modelle und verbessert so die Leistung von KI-Anwendungen.

Zweitens sind die HBM3E-Chips mit fortschrittlichen Technologien wie High-k-Metal-Gate (HKMG) ausgestattet, die Stromleckagen reduzieren, die interne Schaltung optimieren und die Energieeffizienz um 12 % im Vergleich zur Vorgängergeneration verbessern. Diese Effizienzsteigerung ist für KI-Prozessoren, die eine hohe Speicherbandbreite bei reduziertem Stromverbrauch benötigen, von entscheidender Bedeutung, da sie ihnen ermöglicht, in optimalen Temperaturbereichen zu arbeiten, ohne die Leistung zu beeinträchtigen.

Darüber hinaus sind Samsungs HBM3E-Chips die ersten ihrer Art und 50 % schneller als die aktuellen HBM3-Chips, mit einer kombinierten Bandbreite von insgesamt 10 TB/s. Dies ermöglicht der neuen Plattform, Modelle auszuführen, die 3,5-mal größer sind als die Vorgängerversion, während die Leistung durch eine 3-mal schnellere Speicherbandbreite verbessert wird. Die Möglichkeit, mehrere GPUs für außergewöhnliche Leistung zu verbinden und ein leicht skalierbares Serverdesign zu ermöglichen, verstärkt das Potenzial der KI-Prozessoren, umfangreichere generative KI-Workloads zu bewältigen.