Die risikobasierte EU-KI-Verordnung tritt am 1. August 2024 in Kraft

• Die risikobasierte EU-KI-Verordnung tritt am 1. August 2024 in Kraft, mit gestaffelten Compliance-Fristen.
• Die ersten Verbote für bestimmte KI-Anwendungen, wie etwa die Nutzung von Fernbiometrie durch Strafverfolgungsbehörden an öffentlichen Orten, treten in sechs Monaten in Kraft, während die vollständigen Bestimmungen bis Mitte 2026 gelten.

UNSERE EINSCHÄTZUNG
Das EU-KI-Gesetz ist ein wichtiger Schritt zur Regulierung von KI-Technologien, der eine verantwortungsvolle Nutzung gewährleistet und gleichzeitig Risiken mindert. Diese Verordnung unterstreicht die Bedeutung der Compliance für Entwickler und sieht erhebliche Sanktionen bei Verstößen vor. Die gestaffelte Umsetzung ermöglicht eine schrittweise Anpassung, sodass es für KI-Unternehmen unerlässlich ist, sich über ihre Pflichten zu informieren.
— Zoey Zhu, BTW-Journalistin

Was geschah

Dierisikobasierte EU-Verordnung für Anwendungen der künstlichen Intelligenzist am Donnerstag, den 1. August 2024, in Kraft getreten. Dies löst den Countdown für eine Reihe von gestaffelten Compliance-Fristen aus, die das Gesetz für verschiedene Arten von Entwicklern und KI-Anwendungen vorsieht. Die meisten Bestimmungen werden bis Mitte 2026 vollständig anwendbar sein. Die erste Frist, die Verbote für eine kleine Anzahl von unzulässigen KI-Anwendungen in bestimmten Kontexten vorsieht – etwa die Nutzung von Fernbiometrie durch Strafverfolgungsbehörden an öffentlichen Orten – tritt jedoch bereits in sechs Monaten in Kraft.

Nach dem Ansatz der EU werden die meisten KI-Anwendungen als geringes oder kein Risiko eingestuft und fallen daher nicht unter die Verordnung. Eine Teilmenge potenzieller KI-Anwendungen wird als Hochrisiko eingestuft, darunter Biometrie und Gesichtserkennung, KI-basierte medizinische Software oder KI in Bereichen wie Bildung und Beschäftigung. Ihre Entwickler müssen die Risiko- und Qualitätsmanagementpflichten erfüllen, einschließlich einer Konformitätsbewertung vor dem Inverkehrbringen – mit der Möglichkeit einer behördlichen Prüfung.

Hochrisikosysteme, die von Behörden des öffentlichen Sektors oder deren Auftragnehmern genutzt werden, müssen zudem in einer EU-Datenbank registriert werden.

Siehe auch:Das Weiße Haus erlässt neue KI-Verordnungen für Bundesbehörden

Siehe auch:„EU-KI-Verordnung“ tritt im August in Kraft: eine historische Regulierung für KI

Warum das wichtig ist

Eine dritte Stufe mit „begrenztem Risiko“ gilt für KI-Technologien wie Chatbots oder Tools, die zur Erstellung von Deepfakes verwendet werden könnten. Diese müssen bestimmte Transparenzanforderungen erfüllen, um die Täuschung von Nutzern zu verhindern. Auch die Sanktionen sind gestaffelt: Bußgelder von bis zu 7 % des weltweiten Jahresumsatzes bei Verstößen gegen verbotene KI-Anwendungen, bis zu 3 % bei Verstößen gegen andere Pflichten und bis zu 1,5 % bei falschen Angaben gegenüber den Aufsichtsbehörden.

Ein weiterer wichtiger Teil des Gesetzes betrifft die Entwickler von sogenannten KI mit allgemeinem Verwendungszweck (GPAI). Auch hier verfolgt die EU einen risikobasierten Ansatz, wobei die meisten GPAI-Entwickler nur geringen Transparenzanforderungen unterliegen – obwohl sie unter anderem eine Zusammenfassung der Trainingsdaten vorlegen und sich zu Richtlinien verpflichten müssen, die die Einhaltung der Urheberrechtsbestimmungen gewährleisten. Nur eine Teilmenge der leistungsstärksten Modelle muss zudem Risikobewertungs- und Minderungsmaßnahmen durchführen.

Derzeit werden diese GPAI mit potenziellem systemischem Risiko als Modelle definiert, die mit einer Gesamtrechenleistung von mehr als 10^25 FLOPs trainiert wurden.

Während die Durchsetzung der allgemeinen Regeln des AI Act den nationalen Behörden übertragen ist, werden die Regeln für GPAI auf EU-Ebene durchgesetzt. Was genau die GPAI-Entwickler tun müssen, um den AI Act einzuhalten, ist noch Gegenstand von Diskussionen, da die Verhaltenskodizes noch nicht ausgearbeitet sind. Anfang dieser Woche startete das KI-Büro, ein Gremium für strategische Überwachung und den Aufbau des KI-Ökosystems, eine Konsultation und einen Aufruf zur Beteiligung an diesem Regelungsprozess und gab an, dass die Kodizes bis April 2025 fertiggestellt werden sollen.