• Der CEO von OpenAI, Sam Altman, kündigte eine Zusammenarbeit mit dem US AI Safety Institute für frühe Sicherheitstests seines nächsten großen generativen KI-Modells an.
  • Der Schritt folgt auf Kritik an den Sicherheitspraktiken von OpenAI und zielt darauf ab, einen erneuten Fokus auf KI-Sicherheit zu demonstrieren.

UNSERE MEINUNG
Diese Zusammenarbeit unterstreicht die Reaktion von OpenAI auf die wachsenden Bedenken hinsichtlich der KI-Sicherheit, mit dem Ziel, Kritiker zu beruhigen und ein Engagement für verantwortungsvolle KI-Entwicklung zu demonstrieren. Durch die Zusammenarbeit mit Bundesbehörden versucht OpenAI, Innovation mit Sicherheitsprotokollen in Einklang zu bringen.
— Zoey Zhu, Reporterin bei BTW

Was geschah

Der CEO von OpenAI,Sam Altman, gab am Donnerstagabend bekannt, dass OpenAI mit dem US AI Safety Institute zusammenarbeitet, um frühzeitigen Zugang zu seinem nächsten großen generativen KI-Modell für Sicherheitstests zu gewähren. DasUS AI Safety Institute, das Teil des National Institute of Standards and Technology (NIST) des Handelsministeriums ist, hat das Ziel, Risiken auf KI-Plattformen zu bewerten und zu adressieren. Diese Zusammenarbeit folgt auf eine ähnliche Vereinbarung mit dem UK AI Safety Institute im Juni.

OpenAI war in den letzten Monaten aufgrund der Vernachlässigung der KI-Sicherheit in die Kritik geraten. Im Mai löste das Unternehmen eine Einheit auf, die sich mit der Entwicklung von Kontrollen befasste, um zu verhindern, dass „superintelligente“ KI-Systeme widerspenstig werden. Dieser Schritt führte zum Rücktritt der Co-Leiter der Einheit und löste Kritik von KI-Sicherheitsbefürwortern aus. Als Reaktion ergriff OpenAI Maßnahmen, um diese Bedenken auszuräumen, darunter die Streichung restriktiver Nichtherabwürdigungsklauseln und die Verpflichtung von 20 % seiner Rechenressourcen für die Sicherheitsforschung.

Lesen Sie auch:OpenAI unterstützt Gesetzgebung zur Gestaltung der Zukunft der KI

Lesen Sie auch:OpenAI stellt Echtzeit-Sprachmodus für ChatGPT vor

Warum es wichtig ist

Die Zusammenarbeit mit dem US AI Safety Institute zeigt OpenAIs Bemühungen, Vertrauen wiederherzustellen und ein Bekenntnis zur KI-Sicherheit zu demonstrieren. Durch die Bereitstellung von frühzeitigem Zugang zu seinem nächsten großen generativen KI-Modell für Sicherheitstests will OpenAI sicherstellen, dass potenzielle Risiken identifiziert und gemindert werden, bevor das Modell breit eingeführt wird.

Dieser Schritt ist zudem strategisch mit OpenAIs Unterstützung für den Future of Innovation Act abgestimmt, einen Gesetzesentwurf, der im Senat vorgeschlagen wurde und das US AI Safety Institute als Exekutivorgan zur Festlegung von Standards und Richtlinien für KI-Modelle ermächtigen würde. OpenAIs verstärkte Lobbyarbeit und Altmans Rolle im AI Safety and Security Board des Department of Homeland Security unterstreichen den Einfluss des Unternehmens auf die KI-Politikgestaltung auf Bundesebene.

Die Zusammenarbeit soll Interessengruppen und Kritiker beruhigen, dass OpenAI die KI-Sicherheitsbedenken ernst nimmt, und gleichzeitig die Entwicklung leistungsstarker generativer KI-Technologien mit robusten Sicherheitsprotokollen in Einklang bringen.