Zusammenfassung

  • VMware AI Factory automatisiert über VMware Cloud Foundation die Bereitstellung von Hardware, die Aktivierung des Software-Stacks und das Lebenszyklusmanagement
  • Broadcom zufolge kann die VCF-Automatisierung den Weg vom Bare-Metal-Server bis zum ersten Modell von Wochen auf Stunden verkürzen; Kundenergebnisse hat das Unternehmen jedoch nicht veröffentlicht

Die Fakten

Broadcom kündigte VMware AI Factory am 31. August auf der VMware Explore als softwaredefinierte Grundlage der VMware Private AI Cloud an. Nach Angaben des Unternehmens automatisiert die Plattform die Bereitstellung von Hardware, die Aktivierung des Software-Stacks und das Lebenszyklusmanagement einschließlich des Day-2-Betriebs nach der Erstimplementierung. Broadcom zufolge kann die Automatisierung durch VMware Cloud Foundation die Zeit von der Bereitstellung eines Bare-Metal-Servers bis zur Ausführung des ersten KI-Modells von Wochen auf Stunden verkürzen.

Broadcom integriert außerdem Technologie von MetalSoft, um physische Server verschiedener Anbieter über die VCF-Verwaltungskonsole bereitzustellen. VMware AI Factory kann mit zertifizierten Servern von Anbietern wie Cisco, Dell, Lenovo und Supermicro sowie mit unterschiedlichen Beschleuniger- und KI-Softwareoptionen aufgebaut werden. Broadcom hat keine Ergebnisse eines namentlich genannten produktiven Kunden veröffentlicht, die die behauptete Verkürzung der Bereitstellungszeit belegen.

Die Einordnung

Die wichtigste Veränderung betrifft den Ort, an dem die Integrationsarbeit stattfindet. Server und Beschleuniger müssen weiterhin bereitgestellt und der KI-Software-Stack vorbereitet werden, bevor ein Modell ausgeführt werden kann. Broadcom versucht jedoch, einen größeren Teil dieser Arbeit in VMware Cloud Foundation zu verlagern, anstatt Infrastrukturteams jede Ebene separat koordinieren zu lassen.

Wenn diese Automatisierung wie beschrieben funktioniert, liegt der Vorteil in der Wiederholbarkeit. Teams könnten zusätzliche Hardware in Betrieb nehmen und spätere Änderungen über dieselbe Umgebung verwalten, statt den Bereitstellungsprozess jedes Mal neu aufzubauen. Broadcom hat die unterstützte Architektur und die Anbieterintegrationen beschrieben, doch die Verbesserungen bei der Bereitstellungszeit sind weiterhin Aussagen des Unternehmens und keine durch Kunden belegten Ergebnisse.

Für die Leserinnen und Leser von BTW versucht Broadcom, die Arbeit zwischen dem Erhalt der KI-Hardware und der Ausführung des ersten Modells zu einem routinemäßigen VCF-Vorgang zu machen. Produktive Implementierungen werden zeigen, ob dies auch dann gilt, wenn Kunden Cluster erweitern, Hardware austauschen oder Upgrades durchführen.

Worauf zu achten ist

Zu beobachten sind namentlich genannte produktive Kunden, die Bereitstellungszeiten, Hardwarekombinationen und die Abläufe bei Upgrades oder Ausfällen offenlegen. Besonders aussagekräftig wäre, ob Teams Server über VCF bereitstellen oder ersetzen und den Software-Stack aktualisieren können, ohne wieder auf separate Werkzeuge der jeweiligen Anbieter zurückgreifen zu müssen. Dies würde zeigen, ob AI Factory die Integrationsarbeit über die Erstinstallation hinaus reduziert.

Quellen