• L&Ts Geschäftsbereich Vyoma.AI wird eine Nvidia-B300-AI-Factory mit 10.000 GPUs für Together AI auf dem Rechenzentrumscampus in Chennai bereitstellen.
  • Phase 1 des Campus ist für 250 MW ausgelegt, während L&T 150 MVA an bereiter Strominfrastruktur angibt, ohne einen Zeitplan für die Inbetriebnahme zu nennen.

Der Sachverhalt

Der Geschäftsbereich Vyoma.AI von Larsen & Toubro hat über die Tochtergesellschaft LTN Compute einen Auftrag von Together AI erhalten, eine Nvidia-B300-AI-Factory auf dem Rechenzentrumscampus in Chennai bereitzustellen. L&T zufolge wird der Cluster eine Kapazität für 10.000 B300-GPUs haben und die Cloud-Plattform von Together AI für Training, Fine-Tuning und Inferenz unterstützen.

Die Bereitstellung umfasst Rechenzentrumsinfrastruktur, beschleunigtes Rechnen, Hochleistungsvernetzung, Interconnects mit geringer Latenz, parallelen Speicher und Infrastrukturbetrieb. L&T gibt an, dass der Campus in Chennai im Gigawatt-Maßstab entwickelt wird, wobei die erste Phase für 250 MW ausgelegt ist und 150 MVA an bereiter Strominfrastruktur bereitstehen.

L&T stuft den Auftrag als „Mega“ ein, was nach seiner veröffentlichten Klassifizierung ₹10.000 bis ₹15.000 Crore abdeckt. Das Unternehmen hat weder einen genauen Auftragswert, ein Inbetriebnahmedatum, den endgültigen Strombedarf des Clusters noch einen Zeitplan für die GPU-Lieferungen bekannt gegeben.

Die Einschätzung

Der Auftrag überträgt L&T mehr Verantwortung als nur für die Rechenzentrumshülle. Vyoma soll die Einrichtung zusammen mit den Beschleunigern, der Vernetzung, dem Speicher und dem Infrastrukturbetrieb bereitstellen, die Together AI für den Betrieb seiner Cloud-Plattform benötigt.

Das bedeutet, dass der Cluster erst dann in Betrieb gehen kann, wenn mehrere Systeme gleichzeitig bereit sind. Die Installation der GPUs muss von nutzbarer Stromversorgung, Kühlung, Netzkapazität und Speicher begleitet sein. Die Auslegung der ersten Phase mit 250 MW zeigt den geplanten Umfang des Campus in Chennai, sagt aber nicht aus, wie viel Kapazität bereits unter Spannung steht oder wie viel diese spezielle Bereitstellung unterstützen wird. Dieselbe Unsicherheit gilt für die angegebenen 150 MVA an bereiter Strominfrastruktur.

Für die Leser von BTW ist der nächste Test, ob L&T den Auftrag über 10.000 GPUs in einen in Betrieb genommenen Cluster verwandeln kann, den Together AI nutzen kann. GPU-Lieferungen, unter Spannung stehende Kapazität und der Abschluss der unterstützenden Netz-, Speicher- und Kühlsysteme werden zeigen, wie weit das Projekt vom Vertrag zum Betrieb fortgeschritten ist.

Beobachtungspunkte

Achten Sie auf die ersten GPU-Lieferungen, die dem Cluster zugewiesene unter Spannung stehende Kapazität, den Abschluss der Netz- und Speicherinfrastruktur sowie auf ein Datum, ab dem Together AI den Cluster nutzen kann. Die Offenlegung der endgültigen IT-Last und der Kühlkonfiguration des Clusters würde außerdem zeigen, wie sich die Bereitstellung mit 10.000 GPUs in die größere erste Phase mit 250 MW einfügt.