Zusammenfassung

  • Ab dem 1. Januar 2029 darf nach AB 1405 niemand eine erfasste KI-Prüfung anbieten, verkaufen oder durchführen, der nicht bei der Government Operations Agency registriert ist. Hinzu kommen öffentliche Angaben, Unabhängigkeitsregeln, eine Meldestelle, Entfernung aus dem Register und zehnjährige Aufbewahrung.
  • SB 813 verlangt bereits für 2028 ein separates Verfahren zur Benennung unabhängiger Verifizierungsorganisationen. Es verpflichtet KI-Entwickler nicht zu einer Prüfung und macht eine standardkonforme Prüfung in Schadensfällen zwar relevant, aber nicht entscheidend.

Zwei Gesetze, zwei Vertrauensschwellen

Gouverneur Gavin Newsom unterzeichnete AB 1405 und SB 813 am 9. September 2026. Die Mitteilung des Gouverneurs beschreibt beide als gemeinsamen Rahmen für unabhängige Bewertungen durch Dritte. Der Gesetzestext errichtet jedoch kein einheitliches kalifornisches Gütesiegel.

AB 1405 regelt den Marktzugang. Eine erfasste KI-Prüfung untersucht interne Kontrollen, Abläufe oder Systeme, die für die Einhaltung kalifornischen Rechts durch ein KI-System oder -Modell erforderlich sind. Bis zum 1. Januar 2029 muss GovOps ein Online-Register einrichten, kostendeckende Jahresgebühren festlegen und natürlichen Personen einen Weg zur Meldung von Fehlverhalten bieten. Von diesem Tag an dürfen Nichtregistrierte die erfasste Leistung weder anbieten noch verkaufen oder ausführen.

SB 813 stellt die anspruchsvollere Frage, welcher KI-Prüfer Kompetenz, Methoden und Unabhängigkeit nachgewiesen hat und deshalb als independent verification organization, kurz IVO, benannt werden kann. Antragsanforderungen, Eignungskriterien und Verfahren für Aussetzung oder Beendigung müssen bis zum 1. Januar 2028 stehen. Die Verifizierungsarchitektur kommt damit ein Jahr früher, doch aus einem Registrierten wird nicht automatisch ein IVO.

Der Verzeichnisverweis dieses Beitrags bleibt bewusst ungelöst. Beide Gesetze weisen die Aufgabe der California Government Operations Agency zu. Deren eigene Behördenbeschreibung nennt sie eine Kabinettsagentur für die Umsetzung strategischer Vorhaben in der Staatsverwaltung. Vorhandene BTW-Einträge zum California Department of Technology und zum State of California betreffen andere oder identitär widersprüchliche Objekte. Ein genauer, noch nicht aufgelöster GovOps-Verweis ist ehrlicher als eine falsche institutionelle Zuordnung.

Die Registernummer erlaubt die Tätigkeit, sie zeichnet sie nicht aus

Der Antragsteller muss Geschäftsname und Kontaktdaten, die für seine Prüfungen einschlägigen kalifornischen Gesetze und Vorschriften, Zertifizierungen sowie eine Leistungsbeschreibung vorlegen. Eine Standardarbeitsanweisung nennt die verwendeten Normen und erklärt, worauf Aussagen zur Genauigkeit, Zuverlässigkeit oder Gültigkeit der Prüfprotokolle beruhen. Wesentliche Änderungen, die veröffentlichte Angaben unvollständig oder unzutreffend machen, sind innerhalb von 90 Tagen zu melden.

GovOps veröffentlicht Nummer und eingereichte Angaben. Die Nummer muss außerdem auf jeder Werbung für erfasste Prüfleistungen klar und deutlich erscheinen. Im Register muss daneben stehen, dass die Registrierung keine Empfehlung oder Billigung des Unternehmens durch Kalifornien darstellt. Das Gesetz wiederholt diese Grenze am Ende. Die Erlaubnis, eine regulierte Dienstleistung zu verkaufen, ist somit weder ein allgemeines Kompetenzurteil noch eine Garantie für die Richtigkeit jeder künftigen Prüfung.

Die Registrierung enthält dennoch materielle Pflichten. Ein Prüfer darf keine Arbeit bewerten, die er wesentlich entworfen, entwickelt, umgesetzt oder betrieben hat. Er muss einen Auftrag ablehnen, wenn finanzielle, geschäftliche, arbeitsbezogene oder andere Beziehungen seine Unabhängigkeit vernünftigerweise beeinträchtigen könnten. Marktübliche Vergütung allein gilt nicht als verbotene Bindung. Wer an der Prüfung arbeitet, darf währenddessen keine Anstellung beim geprüften Unternehmen suchen oder aushandeln.

Personen mit wesentlicher Verantwortung für den Prüfgegenstand beim Auftraggeber in den vorangegangenen zwölf Monaten sind ebenfalls ausgeschlossen.

Der Bericht an den Geprüften enthält Umfang, Ziele, Ergebnisse und deren dokumentarische Grundlage. Er benennt Mängel und gegebenenfalls geeignete technische, betriebliche oder Governance-Maßnahmen, beschreibt die Einhaltung interner Sicherheitsvorgaben im Prüfbereich und legt nicht untersuchte Punkte sowie Lücken bei Belegen, Informationen, Systemen oder Zugängen offen. Eine unterschriebene und datierte Erklärung bestätigt die Durchführung nach dem Kapitel. Berichtsinformationen und Belege werden mindestens zehn Jahre aufbewahrt.

Zu einem öffentlichen Berichtsarchiv wird das Register dadurch nicht. AB 1405 verlangt die Veröffentlichung der Registrierungsdaten, nicht jedes Auftragsergebnisses. Meldungen über Fehlverhalten werden während der Registrierung und zehn weitere Jahre gespeichert und dürfen zur Durchsetzung mit anderen Behörden geteilt werden. Ihre allgemeine Veröffentlichung ist nicht vorgeschrieben. Ein Nutzer kann daher einen aktiven Status sehen, ohne von einer laufenden Untersuchung, einer entscheidenden Einschränkung oder dem konkret geprüften System zu erfahren.

Der IVO-Status prüft Methoden und Unabhängigkeit stärker

Ein IVO-Bewerber muss Qualifikationen, Nachweise zu den künftigen Kriterien sowie die vorgesehenen Benchmarks, Technologien, Messgrößen und Methoden einreichen. GovOps soll technische Sachkunde, Risikobewertung, Konfliktsteuerung und Freiheit von operativer oder geschäftsleitender Kontrolle des Geprüften beurteilen. Eine marktübliche Zahlung ist zulässig; Zahlung oder Höhe dürfen aber nicht vom Ergebnis abhängen.

Aussetzungs- und Beendigungsverfahren müssen Normverstöße, wesentliche Falschangaben, Unabhängigkeitsschäden durch Interessenkonflikte, unzureichende Dokumentation, Zweifel an Integrität oder Kompetenz und Cybersicherheitsmängel abdecken. Die Benennung ist deshalb keine zweite Registrierung unter anderem Namen. Sie soll ein stärkeres staatlich verwaltetes Urteil über nachgewiesene Verifizierungsfähigkeit nach veröffentlichten, fortschreibbaren Kriterien sein.

Benannte IVOs berichten jährlich an GovOps und die Legislative, erstmals frühestens zwölf Monate nach der anfänglichen Benennung. Sie fassen Normen und Methoden zusammen und melden für die Unabhängigkeit relevante Änderungen bei Governance, Finanzierung und Antragsangaben. Schwärzungen zum Schutz von Geschäftsgeheimnissen, Cybersicherheit, öffentlicher Sicherheit, nationaler Sicherheit oder gesetzlichen Pflichten sind erlaubt. Soweit es der Schutzgrund zulässt, muss jede veröffentlichte Fassung Art und Begründung der Schwärzung beschreiben; die ungekürzten Unterlagen bleiben fünf Jahre erhalten.

Auch dieser Status ist keine Produktzulassung. SB 813 zwingt Entwickler, Bereitsteller oder Betreiber nicht, ein IVO zu beauftragen oder eine erfasste Prüfung durchzuführen. Die bloße Abweichung von einem Standard begründet keine Haftung. Veröffentlichte Kriterien billigen kein KI-System oder -Modell. In einer Klage wegen eines durch KI verursachten Schadens kann eine Prüfung nach einem identifizierten Standard eine relevante Tatsache sein, entscheidet aber weder Kausalität noch Haftung oder Sicherheit.

Zwischen den Regimen fehlt eine lesbare Verbindung

Die Gesetze nennen viele nützliche Daten, schreiben aber keinen öffentlichen Datensatz vor, der sie zusammenführt. AB 1405 zeigt Nummer und Selbstauskunft. SB 813 macht Anforderungen und Kriterien öffentlich und verlangt wiederkehrende IVO-Berichte. Nicht ausdrücklich garantiert ist eine Ansicht, die erkennen lässt, ob ein Registrierter zugleich aktuell benannt ist, wie lange und für welchen Umfang, ob eine Aussetzung angefochten wird und welcher konkrete Auftrag hinter einer Werbeaussage steht.

In dieser Lücke können fünf Aussagen gleich klingen. „Registriert“ bedeutet nach 2029 zum Verkauf einer erfassten Prüfung berechtigt. „Als IVO benannt“ sollte nachgewiesene Fähigkeit nach den jeweils geltenden Kriterien bedeuten. „Geprüft“ sagt nur, dass ein zeitlich und sachlich begrenzter Auftrag stattfand. „Konform“ ist auf das untersuchte Recht, die Methode und die vorhandenen Belege beschränkt. „Sicher“ ist breiter und wird von keinem der beiden Gesetze automatisch verliehen.

Ein öffentlicher Assurance-Nachweis könnte die Zustände verbinden, ohne sie zu verschmelzen: Registrierungsnummer und Gültigkeit; gegebenenfalls IVO-Benennung und Laufzeit; Norm- und Methodenversion; relevante Finanzierungs- oder Konfliktänderung; Auftraggeber, System und Modellversion; erfasster Teil des kalifornischen Rechts; Belegstichtag; Ausschlüsse und Grenzen; Unterschriftsdatum; spätere Korrektur; genaue Aussage, die der Bericht trägt. Hinweisgeber und sensible Technik bleiben geschützt, während Status und Verlauf überprüfbar sind.

Dieser Nachweis ist ein Umsetzungstest, keine bereits zugesagte gesetzliche Funktion. GovOps erklärt in seinem offiziellen GenAI-Programm, die KI-Arbeit der Staatsverwaltung zu führen. 2028 und 2029 wird sich zeigen, ob aus zwei Rechtsregimen eine verständliche Beweiskette oder lediglich zwei voneinander gelöste Abzeichen werden.

Heng Lus Konzept des Policy Mirror verlangt eine öffentliche Abbildung von Entscheidungsmacht, Beleg und Korrekturweg. Sein Argument für laufende Systeme als Primärtest lenkt den Blick auf Zustandswechsel: Registrierung, Benennung, Meldung, Untersuchung, Aussetzung, Widerspruch, Berichtigung und Ablauf. Ob Datum und Bedeutung bei jedem Wechsel erhalten bleiben, sagt mehr über glaubwürdige Governance als das auffälligste Emblem.

Quellen

  1. California AB 1405 — verabschiedeter Text
  2. California SB 813 — verabschiedeter Text
  3. Gouverneur von Kalifornien — Unterzeichnungsmitteilung
  4. California Government Operations Agency — Auftrag
  5. GovOps — staatliches GenAI-Programm
  6. Lu Heng — The Policy Mirror
  7. Lu Heng — Running Code Primary
  8. Lu Heng — Why BTW Media Exists