EU AI Act: Wie wird er die KI-Landschaft verändern?

• Am 13. Mai verabschiedete das Europäische Parlament den weltweit ersten großen Satz von Regulierungsvorschriften für künstliche Intelligenz, der im Mittelpunkt der Technologieinvestitionen steht, mit einer risikobasierten Regulierung.
• Die Gesetzgebung hinkt immer hinterher, weshalb unternehmerische Eigenverantwortung und Branchenkonsens in einer so schnellen Entwicklungsphase entscheidend sind. Die Technologiegiganten bringen ihre Weisheit ein, aber der OpenAI-Vorfall hat Fragen zur Selbstdisziplin der Unternehmen aufgeworfen.
• Ein globaler Konsens, eine Kombination aus horizontaler und vertikaler Regulierung und dynamischer Aufsicht – die Berücksichtigung dieser drei Punkte könnte Ideen für die zukünftige Regulierung und Selbstregulierung der KI-Branche liefern.

Am 13. Mai verabschiedete das Europäische Parlament den weltweit ersten großen Satz von Regulierungsvorschriften für künstliche Intelligenz, der im Mittelpunkt der Technologieinvestitionen steht, und verleiht der globalen KI-Governance-Landschaft eine starke regulatorische Kraft.

Die Etablierung eines globalen KI-Governance-Modells muss jedoch auch auf einem tieferen Verständnis der KI-Technologie, einer stärker kollaborativen Zusammenarbeit mit den Technologiegiganten und Fortschritten im Bewusstsein der Regulierungsbehörden beruhen.

Die risikobasierte Klassifizierung des KI-Gesetzes

„Ich würde sagen, das ist die optimale Strategie für Regulierungsbehörden bei der Festlegung von Anforderungen, denn der Versuch, die Regulierung auf andere Facetten auszuweiten, würde die Modellanbieter übermäßig belasten, die letztendlich nicht genug Risiko darstellen, um sich zu lohnen.“

Ortal Shimon, Account Executive bei Hi-Touch PR

Das KI-Gesetz der EU betrifft Unternehmen aller Branchen, die KI in der EU entwickeln oder vertreiben, sowie solche, die KI-Systeme einsetzen, die Ergebnisse erzeugen, die EU-Bürger betreffen.

Mehrere Akteure in den KI-Wertschöpfungsketten in der EU sind betroffen, einschließlich der Definition des „KI-Systems“. Die Definition von KI-Systemen wurde erweitert, um jedes maschinenbasierte autonome System zu umfassen, das „aus den Eingaben, die es erhält, ableitet, wie es Ausgaben generiert“. Mit dem Aufkommen generativer KI gilt das Gesetz auch für „Allzweck-KI-Modelle“ (GPAI), die grundlegende Bausteine von KI-Systemen mit breiten Anwendungen sind, wie DALL-E und GPT-4 von OpenAI.

Lesen Sie auch:Der Artificial Intelligence Act: das weltweit erste KI-Gesetz in der EU verabschiedet

Auf dieser Basis hat die EU klugerweise gewählt, KI-Modelle nach potenziellem Risiko zu kategorisieren und zu verwalten, was eine nuanciertere und effektivere Risikosteuerung ermöglicht, indem Ressourcen und Aufmerksamkeit dort konzentriert werden, wo sie am dringendsten benötigt werden. Genauer gesagt verfolgt sie einen risikobasierten Ansatz, indem sie KI-Systemen eine Risikoklasse zuweist und von Hochrisikosystemen verlangt, strengere Anforderungen zu erfüllen als KI-Systeme in einer niedrigeren Risikoklasse.

Das KI-Gesetz definiert vier Risikostufen für KI-Systeme: inakzeptabel, hoch, begrenzt und minimal (oder null), und seine klare Kategorisierung von KI-Systemen entspricht globalen Risikomanagementrahmen wie dem NIST AI RMF und der ISO 420001.

Diese klare Kategorisierung von KI-Systemen entspricht globalen Risikomanagementrahmen wie demNIST AI RMFund derISO 420001und erhöht die Transparenz und Verantwortlichkeit.

Die ewige Frage: Innovation versus Regulierung

„Ich erinnere mich an ein Gespräch mit einem anderen CEO in Berlin, der halb im Scherz sagte, dass sie genauso viel Zeit damit verbringen, Vorschriften zu befolgen, wie Dinge zu erschaffen.“

Erik Severinghaus, Gründer und CEO von Bloomfilter

Innovation und Regulierung in Einklang zu bringen, ist eine Frage, die seit der Aufnahme der KI-Gesetzgebung auf die Tagesordnung beobachtet, diskutiert und debattiert wird. Die bahnbrechende Risikoklassifizierung des KI-Gesetzes in vier Stufen basierend auf Menschenrechts- und Sicherheitskriterien hat auch Kritik, von Praktikern der KI-Branche sowie Politik- und Rechtsexperten erhalten.

Positiv zu vermerken ist, dass dieses Kategorisierungssystem Flexibilität bietet und es innovativen Entwicklern ermöglicht, risikoärmere KI-Technologien zu entwickeln, ohne unnötige regulatorische Beschränkungen aufzuerlegen. Dies fördert Kreativität und ermutigt den Fortschritt von KI-Anwendungen in verschiedenen Bereichen.

Das KI-Gesetz konzentriert sich auf risikoarme KI-Systeme, was gewisse Belastungen und Hindernisse für die Entwicklung und Innovation von KI schafft. Für große Unternehmen können umfangreiche Compliance-Anforderungen die technologische Entwicklung und Marktexpansion behindern. Allerdings können hohe Compliance-Hürden weitere Unternehmen vom Einstieg in den KI-Bereich abhalten und zur Bildung eines Monopols beitragen. Dies führt auch zu Schwierigkeiten für einige kleine und mittlere KI-Unternehmen oder Forschungsorganisationen, die entsprechenden Compliance-Kosten und -Risiken zu tragen.

Aber die Wahrheit ist, dass Innovation und Regulierung keine unvereinbaren Gegensätze sind, denn es gibt einen weiteren wichtigen Beteiligten: den Benutzer. Effektive Regulierung erfordert Transparenz der Anwendungen, was dazu beiträgt, das öffentliche Vertrauen in KI und die sie produzierenden Unternehmen zu stärken, was für eine breite Akzeptanz der Technologie und ihre Integration in den Alltag unerlässlich ist. Durch die Betonung der Transparenz adressiert das Klassifizierungssystem Bedenken hinsichtlich der Undurchsichtigkeit von KI-Systemen und fördert eine größere Verantwortlichkeit.

Dies schadet der langfristigen Entwicklung der KI-Technologie mehr als es nützt.

Vielleicht ist dies der Grund, warum Kritiker das KI-Gesetz eher in einem relativ positiven Licht sehen, es für sehr umfassend halten, den Verbraucherschutz, die Transparenz und die Verantwortlichkeit priorisieren, was für die Förderung des Vertrauens in die KI-Technologie unerlässlich ist. Aber in Bezug auf die Umsetzung und spätere Überarbeitung liegt noch ein langer Weg vor uns.

KI-Governance-Versuche in anderen Ländern

Zusätzlich zur Kategorisierung von KI-Risiken in vier Stufen basierend auf Menschenrechten und Sicherheit hat das KI-Gesetz eine weitere relativ wichtige Innovation: Es hat den Prozess der horizontalen KI-Regulierung eingeleitet, während die KI-Regulierung zuvor meist vertikal war. Horizontale Regulierung besteht aus rechtlichen Regeln, die für alle Sektoren und Anwendungen gelten und alle Bereiche und Personen abdecken.

Deshalb betont der Gesetzesentwurf strenge Regulierung, konzentriert sich aber auch auf regulatorische Innovation, wie die Ermutigung von Ländern, „Sandbox-Tests“ durchzuführen und kleinen und mittleren Unternehmen mehr Komfort und Unterstützung zu bieten.

Im Vereinigten Königreich, das vom Austritt aus der Europäischen Union betroffen ist, zielt die Gesetzgebung darauf ab, Innovation zu fördern und gleichzeitig sicherzustellen, dass KI ethisch und verantwortungsvoll eingesetzt wird, indem Transparenz, Verantwortlichkeit und Fairness gemäß den EU-Standards gefördert werden.

Das britische Sicherheitsinstitut, die kürzlich gegründete britische Behörde für KI-Sicherheit, hat diesen Monat eine Reihe von Tools namens Inspect veröffentlicht, um die Sicherheit von KI-Modellen zu testen, mit dem Ziel, die KI-Sicherheit zu stärken, indem die Entwicklung von KI-Bewertungen durch Industrie, Forschungseinrichtungen und Wissenschaft erleichtert wird. Dieses Verhalten entspricht auch den Risikoklassifizierungsanforderungen des KI-Gesetzes für KI-Modelle.

China hat einen eher top-down-Ansatz gewählt und strengere Kontrollen für die Entwicklung und Bereitstellung von KI auferlegt, insbesondere in Bezug auf Überwachung und Datenschutz. Die chinesische Regierung hat einen „Entwicklungsplan für künstliche Intelligenz der nächsten Generation“ gestartet, der eine wichtige Rolle bei der Standardisierung und Lenkung der KI-Entwicklung nach nationalen Prioritäten spielt.

Die USA dominieren den KI-Bereich, mit OpenAI, das Sora, eine leistungsstarke neue Text-zu-Video-Plattform, gestartet hat, und Google, das Gemini 1.5, sein KI-Modell der nächsten Generation, gestartet hat, das 30-mal größere Anfragen als sein Vorgänger verarbeiten kann. Die USA haben einen relativ liberalen Ansatz zur KI-Regulierung, der sich mehr auf die Förderung von Innovation und die Aufrechterhaltung der technologischen Führungsrolle konzentriert, mit Betonung auf ethischen Rahmenwerken und Leitlinien anstelle verbindlicher Gesetze.

US-Präsident Joe Biden erließ im Oktober 2023 eine Executive Order, die Entwickler der „leistungsstärksten KI-Systeme“ dazu verpflichtet, ihre Sicherheitstestergebnisse und andere kritische Informationen mit der Regierung zu teilen, unter Berufung auf Risiken für die nationale Sicherheit. Die USA haben kürzlich auch das NIST AI RMF eingeführt, das zur Verwaltung der mit KI-Systemen verbundenen Risiken entwickelt wurde und die wachsende Anerkennung der Bedeutung von Risikomanagement, Governance und ethischer Nutzung von KI-Technologie im US-Regulierungsumfeld widerspiegelt.

Lesen Sie auch:Die britische Regierung verpflichtet Technologieexperten und Diplomaten für den wegweisenden KI-Sicherheitsgipfel

Gemeinsam haben beide Länder, dass sie mit der vertikalen Regulierung der KI-bezogenen Technologien beginnen, die am ehesten die Rechte der Menschen oder die soziale Stabilität gefährden, wie Deepfake-Technologie. Dies zielt auch auf die Governance in eine Richtung mit einem höheren potenziellen Risikofaktor.

Quiz

In der jüngsten KI-Verordnung der Europäischen Union werden KI-Systeme nach potenziellen Risiken in vier Kategorien eingeteilt. Welche?

A. Inakzeptables Risiko

B. Hohes Risiko

C. Begrenztes Risiko

D. Moderates Risiko

E. Minimales (oder kein) Risiko

Die richtige Antwort finden Sie am Ende des Artikels.

Eine starke Selbstregulierung hat bereits funktioniert

Die Gesetzgebung hinkt hinterher, weshalb unternehmerische Eigenverantwortung und schriftlicher Branchenkonsens in einer so schnellen Entwicklungsphase entscheidend sind.

Google hat eigene KI-Prinzipien aufgestellt, die die Bedeutung der Schaffung einer gesellschaftlich nützlichen KI betonen, die hohe Sicherheits- und Fairnessstandards einhält. Meta hat sich ebenfalls an Diskussionen über die Governance von KI-Systemen beteiligt, insbesondere in Bezug auf das Gleichgewicht zwischen Innovation und Privatsphäre sowie Fairness bei der Inhaltsverteilung.

Microsoft hat sich für verantwortungsvolle KI eingesetzt, indem es Tools zur Erkennung und Bekämpfung von Verzerrungen in KI-Algorithmen entwickelt und Transparenz in KI-Systemen fördert. IBM entwickelt eine unternehmensweite KI-Ethikpolitik durch seinenKI-Ethikrat, mit Schwerpunkt auf Vertrauen und Transparenz, um die KI-Entwicklung an menschenzentrierten Prinzipien auszurichten.

Allerdings hat ein Personalwechsel bei OpenAI Ende 2023 zusätzliche Fragen zur Wirksamkeit der Selbstregulierung aufgeworfen. Der CEO des Unternehmens,Sam Altman, wurde vom gemeinnützigen Vorstand von OpenAI entlassen, der sich über Altmans mangelnde Vorsicht und die Gefahren, die KI für die Gesellschaft darstellen könnte, sorgte.

Laut der von OpenAI beimIRSeingereichten Akte wird das Unternehmen bis 2018 nicht mehr sein Engagement betonen, „unsere Pläne und Fähigkeiten offen zu teilen“; bis 2021 ist das Unternehmensziel geworden, „eine Allzweck-KI zu bauen“, die mit den Interessen der Produktkommerzialisierung übereinstimmt, anstatt einer offenen Forschungsmission, die darauf abzielt, „digitale Intelligenz voranzutreiben“.

Die Befürworter, angeführt von Sam Altman selbst, wollten schnell leistungsstarke neue Technologien der Öffentlichkeit zugänglich machen, während sie weiterhin auf eine echte Allzweck-KI hinarbeiten. Obwohl Altman kurz nach seiner Entlassung einen Olivenzweig von Microsoft erhielt und schließlich von OpenAI wieder eingestellt wurde, traten mehrere der Mitglieder, die ihn ursprünglich entlassen hatten, zurück. Aber dies liefert eine wichtige Lehre für zukünftige KI-Regulierungsbehörden: Die Möglichkeit einer sinnvollen Selbstregulierung, insbesondere durch intelligente Unternehmensformen, ist eine Fantasie.

Lesen Sie auch:Erkundung der Partnerschaft zwischen OpenAI und Microsoft

Der Machtkampf innerhalb des Unternehmens und das letztendliche Scheitern des Vorstands der gemeinnützigen Organisation, die Kontrolle über ein zunehmend kommerzialisiertes Unternehmen zu behalten, erinnern uns daran, dass die Gesellschaft, wenn sie den Einsatz dieser potenziell historischen Technologie verlangsamen will, dies möglicherweise auf die altmodische Weise tun muss: durch staatliche Regulierung von oben.

Ausblick: Wie lässt sich die Kluft zwischen technologischem Fortschritt und nachgelagerter Governance schließen?

„Die globale KI-Gesetzgebung zu erkunden ist wie das Verkosten eines komplexen Weins; jedes Land fügt seine eigene Note hinzu, und manchmal ist es schwer vorherzusagen, ob er dem Gaumen schmeckt oder einen bitteren Nachgeschmack hinterlässt.“

Erik Severinghaus, Gründer und CEO von Bloomfilter

Globaler Konsens

Ein globaler Konsens über die KI-Regulierung wird viel Zeit in Anspruch nehmen, nehmen wir das KI-Gesetz als Beispiel. Die Veröffentlichung des Gesetzes ist ein erster Schritt, und die anschließende Umsetzung hat noch einen langen Weg vor sich. Wie eine globale KI-Regulierung aufgebaut wird, erfordert gemeinsame Anstrengungen von Einzelpersonen, Unternehmen, Organisationen und Ländern.

Einerseits könnten europäische Unternehmen weltweit weniger wettbewerbsfähig sein, wenn die europäischen Regeln viel strenger sind als anderswo, wo die Regulierung weniger streng ist. Andererseits wird es viel schwieriger, sie durchzusetzen, wenn die europäische Regulierungsindustrie viele Konflikte mit der Selbstregulierung schafft.

Das Fehlen weltweit vereinbarter Klassifizierungsstandards kann auch ein Risiko von Regulierungsarbitrage schaffen. Am Beispiel des KI-Gesetzes hat die EU ein ganzes System von Durchsetzungs- und mehrstufigen Überwachungs- und Umsetzungsmechanismen im Zusammenhang mit der Verabschiedung des Gesetzes eingerichtet, einschließlich nationaler Regulierungsbehörden der EU-Mitgliedstaaten usw., was ein Vorteil ist, den die EU gegenüber einzelnen Ländern nutzen kann.

Kombination aus horizontaler und vertikaler Regulierung

Da die KI-Technologien sich weiterentwickeln, wird die zukünftige Gesetzgebung wahrscheinlich noch dynamischer und anpassungsfähiger sein müssen, möglicherweise mit Echtzeit-Risikobewertungen und flexibleren Regulierungsmechanismen. Die globale KI-Regulierungslandschaft ist dynamisch und komplex, und das KI-Gesetz der EU ist ein wichtiger Schritt, der globale Standards beeinflussen könnte.

Neben der umfassenden und relativ universellen horizontalen Regulierung, die Länder und Organisationen einzuführen versuchen werden, wird es auch stärker sektorspezifische Regulierungen geben, insbesondere in den Biowissenschaften und Finanzdienstleistungen.

Dynamische Aufsicht

Angesichts der schnellen Entwicklung der KI-Technologie sind die Herausforderungen zweifellos enorm. Beispielsweise können sich einige KI-Systeme aufgrund der Klassifizierung des KI-Gesetzes so entwickeln, dass sie nach einer ersten Bewertung das Risikoniveau erhöhen, was eine kontinuierliche Überwachung und Neubewertung erfordert, um sicherzustellen, dass KI-Modelle richtig klassifiziert bleiben.

Darüber hinaus wird die weitere Entwicklung der KI-Technologie wahrscheinlich die Erwartungen jeder staatlichen Regulierung und Unternehmensrichtlinien übertreffen, was nicht nur eine hohe technische Weitsicht der Gesetzgeber erfordert, sondern auch eine sofortige Anpassung, Ergänzung und Überarbeitung der relevanten Vorschriften.

Die richtige Antwort ist a, b, c und e.