• Google erkundet mit Marvell zwei KI-Chip-Designs, die auf Inferenz und Speicheroptimierung ausgerichtet sind.
  • Die Pläne umfassen eine Speicherverarbeitungseinheit und eine neue TPU-Generation für Inferenz-Workloads.

Was passiert ist

Google befindet sich in Gesprächen mit Marvell Technology zur gemeinsamen Entwicklung zweier neuer KI-Chips,wie aus Berichten von Reuters und The Information hervorgeht.  

Die Chips zielen darauf ab, die Effizienz bei der Ausführung von KI-Modellen zu verbessern, insbesondere bei Inferenzaufgaben. Eines der Designs ist eine Speicherverarbeitungseinheit, die Googles bestehende Tensor Processing Units (TPUs) unterstützen soll. Das zweite ist eine neue TPU, die speziell für Inferenz-Workloads entwickelt wurde.

Die Unternehmen befinden sich noch in frühen Designgesprächen. Sie streben an, das Design des Speicherchips im nächsten Jahr abzuschließen. Anschließend würde die Testproduktion beginnen.

Googlebaut seine kundenspezifische Siliziumstrategie kontinuierlich aus. Seine TPUs unterstützen bereits KI-Dienste in großem Maßstab in seinem Cloud-Geschäft. Das Unternehmen konkurriert auch mit Nvidia auf den Märkten für KI-Infrastruktur.      

Warum das wichtig ist

Diese Vereinbarung spiegelt einen breiteren Wandel der KI-Berechnung hin zur Inferenzeffizienz wider. Früher dominierte das Training von KI-Modellen die Chip-Nachfrage. Heute wird Inferenz zur Hauptarbeitslast in realen Anwendungen.

Dieser Wandel erhöht die Nachfrage nach Spezialchips, die Latenz und Energieverbrauch reduzieren. Google möchte seine Abhängigkeit von Nvidias Allzweck-GPUs verringern. Stattdessen baut es einen vertikal integrierten Hardware- und Software-Stack auf.

Die Zusammenarbeit unterstreicht auch den wachsenden Wettbewerb im KI-Halbleiterbereich. Unternehmen wie Broadcom, AMD und Marvell positionieren sich alle als Partner für kundenspezifische Chips für Hyperscaler.

Für Google könnten leistungsfähigere hauseigene Chips die Margen in seinem Cloud-Geschäft verbessern. Dies könnte auch dazu beitragen, Unternehmenskunden zu binden, die groß angelegte KI-Bereitstellungen benötigen.

Gleichzeitig erhöht dieser Schritt die strategischen Risiken. Kundenspezifisches Siliziumdesign ist teuer und komplex. Es erhöht auch die Abhängigkeit von Lieferkettenpartnern für Fertigung und Verpackung.

Der breitere Branchentrend deutet darauf hin, dass die Ausgaben für KI-Infrastruktur weiter anziehen. Cloud-Anbieter investieren weiterhin massiv in spezialisierte Rechenleistung, trotz Bedenken hinsichtlich Überkapazitäten oder eines Nachfragerückgangs.

Lesen Sie auch:Nvidia wird Amazon im Rahmen eines Cloud-Deals bis zu eine Million KI-Chips liefern   

Lesen Sie auch:Anthropic erwägt die Entwicklung eigener KI-Chips