Anthropic unterstützt das Projekt Glasswing mit 100 Millionen Dollar, nachdem das Claude-Modell Tausende von Software-Schwachstellen mit hohem Schweregrad entdeckt hat. Der Multi-Vendor-Ansatz signalisiert einen Wandel hin zu branchenweiten KI-Sicherheitsstandards. Was geschah: Das Projekt Glasswing bringt große Technologieunternehmen zusammen, um fortschrittliche KI-Sicherheitstools zu testen, nachdem Modelle Tausende kritischer Sicherheitslücken aufgedeckt haben. Das KI-Unternehmen Anthropic hat seine Partnerschaften mit Nvidia und Cisco durch seine neue Cybersicherheitsinitiative, das Projekt Glasswing, gestärkt.
Das Programm bringt große Technologieakteure zusammen, darunter Amazon Web Services und Microsoft (Cloud), Google und Apple (Plattformen), Nvidia (Rechenleistung) und Cisco (Netzwerk). Es bietet kontrollierten Zugriff auf das Claude Mythos Preview-Modell von Anthropic für defensive Sicherheitstests. Das Modell konzentriert sich auf die Erkennung von Schwachstellen und die Stärkung von Systemen. Anthropic gab bekannt, bereits Tausende von Schwachstellen mit hohem Schweregrad in weit verbreiteter Software und Infrastruktur identifiziert zu haben.
Cisco bringt Netzwerk- und Sicherheitsfähigkeiten ein, während Nvidia die erforderliche Rechenleistung für den Betrieb von KI-Modellen in großem Maßstab bereitstellt. Gemeinsam testen die Partner, wie KI komplexe Unternehmensumgebungen sichern kann. Anthropic finanziert die Initiative mit bis zu 100 Millionen Dollar in Nutzungskrediten und zusätzlicher Finanzierung für Open-Source-Sicherheitsarbeit. Das Unternehmen plant zudem, die Teilnahme auf Dutzende von Organisationen auszuweiten, die kritische Infrastrukturen betreiben. Die Bemühungen gehen über bilaterale Partnerschaften hinaus.
Sie signalisieren einen koordinierten, Multi-Vendor-Ansatz, um Sicherheit direkt in die KI-Entwicklung und -Bereitstellung zu integrieren. Warum das wichtig ist: Die KI-Sicherheit tritt in eine Koalitionsphase ein, in der sich die großen Anbieter zusammenschließen, um Standards für die Bereitstellung in Unternehmen und das Risikomanagement zu definieren. Das Projekt Glasswing deutet auf die Bildung einer ‚KI-Sicherheitsallianz' in der Praxis hin. Die großen Anbieter handeln nicht mehr allein. Sie koordinieren ihre Bemühungen über die Ebenen von Rechenleistung, Netzwerk und Software hinweg.
Dieser Wandel spiegelt das zunehmende systemische Risiko generativer KI wider. Schwachstellen betreffen nun Modelle, öffentliche Datenquellen und die Netzwerkinfrastruktur. Kein Anbieter kann dies allein bewältigen. Durch die Abstimmung von Nvidias Rechenleistung, Ciscos Netzwerk und Anthropics Modellen schreitet die Initiative in Richtung integrierter Sicherheitsstandards voran. Diese Standards werden wahrscheinlich die Art und Weise prägen, wie Unternehmen KI-Systeme bereitstellen und verwalten. Der Ansatz hilft auch, Fähigkeiten und Kontrolle in Einklang zu bringen.
Fortschrittliche Modelle können Schwachstellen in großem Maßstab erkennen, benötigen jedoch Schutzmechanismen, um Missbrauch zu verhindern. Langfristig könnten solche Allianzen die Wettbewerbslandschaft definieren. Unternehmen, die in diese Ökosysteme eingebunden sind, werden nicht nur die Technologie, sondern auch die Regeln beeinflussen, die die KI-Sicherheit bestimmen. Lesen Sie auch: Broadcom und Google schließen langfristigen Vertrag über individuelle KI-Chips Lesen Sie auch: Australien beauftragt Anthropic mit KI-Sicherheit und Förderung von Wirtschaftsdaten