Zusammenfassung

  • Andreas Ehstands erste Fassung eines Vokabulars für menschliche Aufsicht über automatisierte und agentische Systeme wurde am 27. September angekündigt. Der individuelle Internet-Draft ist weder ein gebilligter IETF-Standard noch eine Vorschrift für Protokolle oder Audit-Dateien.
  • Der Text unterscheidet Beobachtung, Prüfung einer benannten Eigenschaft, Entscheidung und Freigabe innerhalb einer zuvor bestehenden Befugnis. Eine Freigabe ist eine besondere Entscheidung; sie bescheinigt nicht die Richtigkeit des Ergebnisses.
  • Ein undifferenziertes „genehmigt“ belegt zunächst nur eine erfasste Interaktion. Wer Prüfung und Erlaubnis zugleich nachweisen will, braucht Belege für beide Handlungen.

Eine Organisation kann viel über einen KI-Agenten protokollieren und die entscheidende menschliche Handlung dennoch unklar lassen. Neben einem ausgelösten Auftrag steht dann „manuell genehmigt“, vielleicht mit Zeitstempel und Signatur. Wurde dem Verantwortlichen der Auftrag lediglich angezeigt? Hat er einen bestimmten Prüfpunkt beurteilt? Oder hat er nur die Ausführung innerhalb seiner Zuständigkeit erlaubt? Die Antworten sind nicht aus dem Etikett selbst abzulesen.

Genau diese Unschärfe behandelt draft-ehstand-oversight-acts-00. Die offizielle Ankündigung datiert auf den 27. September. Der Datatracker führt den Text als aktiven individuellen Internet-Draft und weist ausdrücklich darauf hin, dass er keine IETF-Billigung und keinen formellen Status im Standardisierungsprozess besitzt. Der Autor definiert Begriffe; er legt weder ein Verfahren noch ein Datenformat, eine Messmethode oder ein Netzwerkprotokoll fest. Von einer bereits beschlossenen Aufsichtspflicht zu sprechen wäre falsch.

Beobachtung bezeichnet im Entwurf, dass einer Aufsichtsperson ein Gegenstand vorgelegt wurde. Ob sie ihn wahrnahm oder verstand, folgt daraus nicht. Eine Prüfung setzt eine ausdrücklich benannte Eigenschaft voraus und endet mit „trifft zu“, „trifft nicht zu“ oder „nicht feststellbar“. Das Ergebnis gilt nur für diese Eigenschaft. Eine Entscheidung legt einen Handlungsweg fest; ihr kann jede Prüfung fehlen. Bei einer Freigabe kommt etwas anderes hinzu: Die Person muss schon vorher befugt gewesen sein, genau diese Handlung oder Handlungsklasse zu erlauben. Eine Entscheidung kann diese Befugnis nicht selbst erzeugen.

Umgekehrt beweist eine gültige Freigabe nicht, dass der Inhalt sachlich richtig war.

Man kann sich zur Veranschaulichung einen vom Agenten vorbereiteten Einkaufsauftrag vorstellen. Soll später feststehen, dass die Lieferadresse mit dem Vertrag übereinstimmte und dass der Auftrag im Rahmen einer passenden Zuständigkeit abgesendet werden durfte, verlangt die erste Behauptung eine Prüfung der Adresse und die zweite eine Freigabe aus dieser Zuständigkeit. Der Entwurf hält beide Belege auseinander. Mehrere Anzeigen werden nicht zur Prüfung, mehrere Freigaben nicht zum Richtigkeitsnachweis.

Auch eine manipulationsgeschützte allgemeine Genehmigung kann nur ihre Herkunft absichern, nicht den Inhalt einer unterlassenen Prüfung ergänzen. Der W3C-Standard für überprüfbare Nachweise trennt ebenfalls die Echtheitsprüfung von der Gültigkeit für einen bestimmten Zweck; das ist Kontext, keine W3C-Übernahme dieses neuen Begriffssystems.

Besonders relevant ist der sogenannte fail-open-Prüfschritt. Schreibt das System beim Schließen der Prüfansicht immer denselben Erfolgsvermerk, selbst wenn niemand die Eigenschaft untersucht hat, sieht ein Versäumnis im gewöhnlichen Log wie ein bestandener Test aus. Der Entwurf benennt Fehlererkennbarkeit und Tests des Prüfschritts, schreibt aber weder Testaufbau noch Anzahl oder Schwelle vor. Er warnt außerdem vor routinemäßigem Abnicken, vor überhöhten Bezeichnungen der menschlichen Handlung, vor Austausch des angezeigten Gegenstands und vor Freigaben außerhalb der Vollmacht.

Zugleich können minutengenaue Blick- und Bildschirmprotokolle die prüfende Person überwachen, ohne viel über den Agenten zu beweisen.

Die Governance-Frage lautet daher nicht nur, ob ein Mensch „im Prozess“ vorkam. Sie lautet, welche Version eines Gegenstands er sah, welche Eigenschaft er tatsächlich prüfte, welche Wahl er traf und worauf seine Freigabebefugnis beruhte. Das ist Daniel Kades redaktionelle Ableitung aus einem individuellen Vorschlag, keine Feststellung der IETF über ein reales Produkt. Heng Lus Kritik an der Gleichsetzung von Teilnahme und Mandat schärft den Blick, ersetzt aber keinen Nachweis für den einzelnen Vorgang.

Quellen