Zusammenfassung

  • CoreWeave und Parallel Works haben für das NODES-Forschungsprogramm von DARPA eine verwaltete KI-Rechenumgebung mit Systemen vom Typ NVIDIA H100 bereitgestellt
  • Jedes Forschungsteam erhält garantierte Rechenkapazität und kann bei Verfügbarkeit zusätzliche gemeinsam genutzte Ressourcen verwenden

Die Fakten

CoreWeave und Parallel Works haben für das Forschungsprogramm Network of Optimal Dynamic Energy Signatures (NODES) von DARPA eine verwaltete Rechenumgebung für KI und Hochleistungsrechnen bereitgestellt.

Forschende greifen über die ACTIVATE-Plattform von Parallel Works auf das System zu. Sie übernimmt die Anmeldung, die Verwaltung von Benutzerkonten, die Provisionierung, die Planung von Rechenaufträgen und die Nutzungsberichterstattung. CoreWeave stellt die zugrunde liegenden Rechen-, Speicher- und Netzwerkressourcen bereit, darunter Systeme des Typs NVIDIA HGX H100 sowie schnelle InfiniBand-Verbindungen.

Die Kapazität wird auf die NODES-Forschungsteams verteilt. Jedes Team erhält ein garantiertes Kontingent und kann zusätzlich gemeinsam genutzte Kapazität verwenden, wenn sie verfügbar ist. Die Unternehmen leisten außerdem technische Unterstützung, sodass einzelne Teams nicht selbst separate Cloud-Umgebungen aufbauen und verwalten müssen.

NODES entwickelt Werkzeuge für tiefes Lernen, um Proteinsequenzen zu analysieren und biologische Funktionen vorherzusagen. DARPA erlaubt den Forschenden die Nutzung eigener Rechenressourcen, verlangt jedoch, dass Endprodukte und Demonstrationen der Leistungsfähigkeit auf staatlichen Hochleistungsrechensystemen ausgeführt werden. Die neue Cloud-Umgebung unterstützt das Forschungsprogramm; sie belegt nicht, dass NODES seine wissenschaftlichen Ziele erreicht hat.

Die Einschätzung

Forschungsteams benötigen nicht nur GPUs, sondern auch einen praktikablen Weg, auf sie zuzugreifen. In diesem Fall verwaltet Parallel Works Konten und Zugänge sowie die Planung von Rechenaufträgen, während CoreWeave die Rechenplattform bereitstellt. Dadurch dürften die NODES-Forschenden vor Arbeitsbeginn weniger Infrastruktur selbst einrichten und verwalten müssen.

Die Art der Kapazitätsverteilung wird eine Rolle spielen. Jedes Team verfügt über ein garantiertes Kontingent; zusätzliche Kapazität steht aus einem gemeinsamen Kapazitätspool bereit, wenn sie frei ist. Das gibt den Forschenden eine planbare Grundlage und ermöglicht zugleich eine bessere Nutzung freier Ressourcen. Offen ist, wie gut diese Regelung funktioniert, wenn mehrere Teams gleichzeitig mehr Rechenleistung benötigen.

Für die Leserinnen und Leser von BTW ist dies ein nützliches Beispiel dafür, wie KI-Infrastruktur als verwalteter Dienst bereitgestellt wird, statt lediglich Hardware zu vermieten. Wie wertvoll das Modell ist, wird sich deutlicher zeigen, wenn Forschende schnell Zugang zum System erhalten, ihre Berechnungen ohne lange Wartezeiten durchführen können und weniger Zeit mit der Rechenumgebung selbst verbringen müssen.

Worauf zu achten ist

Zu beobachten ist, wie schnell Forschungsteams für die Plattform freigeschaltet werden und wie sich die gemeinsam genutzte Kapazität bei steigender Nachfrage bewährt. Berichte über Wartezeiten, Ressourcennutzung, fehlgeschlagene Rechenaufträge oder technische Unterstützung würden zeigen, ob die NODES-Teams in der Praxis planbaren Zugang erhalten.