• Das US-Handelsministerium schlägt neue Meldepflichten für KI-Entwickler und Cloud-Anbieter vor, um die Cybersicherheit zu gewährleisten.
  • Die Regeln würden Berichte über die Entwicklung von KI-Modellen, Cybersicherheitsbemühungen und Red-Teaming-Ergebnisse vorschreiben, um Risiken wie die Unterstützung von Cyberangriffen oder die Senkung von Hürden für die Entwicklung von Massenvernichtungswaffen zu erkennen.

UNSERE EINSCHÄTZUNG
Diese Entscheidung spiegelt die wachsenden Bedenken hinsichtlich der Auswirkungen von KI und die Notwendigkeit einer strengen Überwachung wider. Durch die Einführung detaillierter Meldepflichten verstärkt die US-Regierung ihre Bemühungen, die mit fortschrittlicher KI verbundenen Risiken wie Missbrauch bei Cyberangriffen oder gefährlichen Technologien zu mindern. Dieser proaktive Ansatz unterstreicht das Gleichgewicht zwischen der Förderung von Innovation und dem Schutz vor potenziellen Bedrohungen, mit dem Ziel, die Entwicklung von KI sicher und unter Kontrolle zu halten.
- Tacy Ding, BTW-Journalist

Was geschah?

Der Vorschlag für detaillierte Meldepflichten, der sich an Entwickler fortschrittlicher künstlicher Intelligenz und Cloud-Computing-Anbieter richtet, um sicherzustellen, dass diese Technologien sicher und gegen Cyberangriffe resistent sind, wurde am Montag vom US-Handelsministerium angekündigt.

Der Vorschlag desBureau of Industry and Securitydes Ministeriums würde Berichte an die Bundesregierung über die Entwicklungsaktivitäten von „Frontier“-KI-Modellen und Rechenclustern vorschreiben.

Er würde außerdem Berichte über Cybersicherheitsmaßnahmen sowie über die Ergebnisse sogenannter „Red-Teaming“-Bemühungen vorschreiben, wie etwa Tests gefährlicher Fähigkeiten, einschließlich des Potenzials, Cyberangriffe zu unterstützen oder die Hürden für Nicht-Experten bei der Entwicklung chemischer, biologischer, radiologischer oder nuklearer Waffen zu senken.

Externes Red-Teaming wird seit Jahren in der Cybersicherheit eingesetzt, um neu auftretende Risiken zu identifizieren. Der Begriff stammt aus US-amerikanischen Kalten-Krieg-Simulationen, bei denen der Gegner als „Rotes Team“ bezeichnet wurde.

Lesen Sie auch:DOJ beobachtet Googles KI-Pläne, um das Suchmonopol zu brechen

Lesen Sie auch:USA führen mit internationalen Partnern neue Kontrollen für fortschrittliche Technologien ein

Warum es wichtig ist

Generative KI, die als Reaktion auf offene Eingaben Texte, Bilder und Videos erzeugen kann, hat sowohl Begeisterung als auch Besorgnis ausgelöst. Es wird befürchtet, dass sie einige Arbeitsplätze überflüssig machen, Wahlen beeinflussen und möglicherweise die Menschen übertreffen könnte, was katastrophale Folgen hätte.

Das Handelsministerium erklärte, dass die im Rahmen des Vorschlags gesammelten Informationen „von entscheidender Bedeutung sein werden, um sicherzustellen, dass diese Technologien strengen Sicherheits- und Zuverlässigkeitsstandards entsprechen, Cyberangriffen standhalten können und ein minimales Risiko des Missbrauchs durch ausländische Gegner oder nichtstaatliche Akteure darstellen.“

Im Oktober 2023 unterzeichnete PräsidentJoe Bideneine Durchführungsverordnung, die Entwickler von KI-Systemen, die Risiken für die nationale Sicherheit, die Wirtschaft, die öffentliche Gesundheit oder die Sicherheit der USA darstellen, verpflichtet, die Ergebnisse von Sicherheitstests mit der US-Regierung zu teilen, bevor diese Systeme der Öffentlichkeit zugänglich gemacht werden.

Die Regel würde Meldepflichten für fortschrittliche Modelle der künstlichen Intelligenz (KI) und Rechencluster einführen.