Zusammenfassung

  • Die britische National Commission into the Regulation of AI in Healthcare empfiehlt stufenweise Zulassung, laufende Leistungsberichte, eine öffentliche Suche nach Gerätevorfällen und die routinemäßige Erfassung der Version eines KI-Medizinprodukts in der Patientenakte.
  • Die Versionsreferenz könnte Behandlung, konkreten Produktzustand, Sicherheitssignal und Abhilfe verbinden. Die Kommission ist aber nur beratend; Regierungsantwort, Rechtsgrundlage und Umsetzung liegen noch vor den zuständigen Behörden.

Eine Vorabprüfung kann spätere Zustände nicht abdecken

Der am 10. September veröffentlichte Kommissionsbericht beschreibt ein zeitliches Problem. Eine Zulassungsprüfung bewertet ein Produkt vor dem Einsatz. Software kann danach aktualisiert werden und sich je nach Klinik, Patientengruppe, Daten und Arbeitsablauf anders verhalten. Der Handelsname bleibt womöglich gleich, während sich der kontrollrelevante Zustand ändert.

Nicht jede Gesundheits-KI ist damit ein Medizinprodukt, und der Bericht behauptet nicht, jedes Modell lerne im Betrieb autonom weiter. Vorgesehen ist eine proportionale Aufsicht nach Risiko, Nutzen, Unsicherheit und Veränderlichkeit. Dadurch kann die Evidenzpflicht dort steigen, wo Änderungen klinische Wirkung oder Sicherheit beeinflussen.

Empfehlung 14 schlägt eine stufenweise Zulassung vor. Ein Produkt könnte in einem begrenzten Umfeld unter Leitplanken und mit festgelegter Evidenzgewinnung starten, bevor es in eine volle Zulassung übergeht. Die MHRA-Mitteilung vergleicht das mit einem Lernführerschein. Entscheidend sind jedoch die operativen Felder: zugelassene Orte und Zwecke, Aufsicht, Messgrößen, Pausenbefugnis und ein Weg zum Ausbau oder Rückzug.

Empfehlung 17 verlangt risikogerechte Pläne nach dem Markteintritt, gegebenenfalls Realweltstudien, regelmäßige Leistungsberichte und Eskalation bei Leistungsabfall, selbst wenn noch kein meldepflichtiger Vorfall vorliegt. Drift ist ein Prüfsignal, kein automatisch bewiesener Schaden. Diese Trennung ermöglicht frühes Handeln, ohne jede Abweichung als Verstoß zu behandeln.

Die britischen Vorschriften von 2024 enthalten bereits allgemeine Pflichten zu Marktüberwachung, Untersuchung und Korrektur für Medizinprodukte in Großbritannien. Die Kommission fordert nicht den ersten Nachmarktprozess überhaupt, sondern eine KI-spezifische Verbindung zwischen veränderlichem Zustand und Einsatzbeleg.

Empfehlung 20 nennt das Bindeglied

Empfehlung 20 fordert Mechanismen, mit denen die MHRA eingesetzte KI-Medizinprodukte einschließlich angemessener Versionskontrolle identifizieren kann. Zusammen mit dem Gesundheitsministerium und den Gesundheitsressorts der dezentralen Landesteile soll die Behörde dafür sorgen, dass Rückverfolgbarkeitsdaten einschließlich Version routinemäßig in der Patientenakte stehen.

Die Akte soll dadurch nicht öffentlich werden. In ihr soll eine geschützte Referenz erhalten bleiben. Wenn ein Produkt unter demselben Namen mehrere Modelle oder lokale Konfigurationen durchläuft, muss eine Untersuchung erkennen können, welcher Zustand bei welchem Patienten, Zweck und Standort eingesetzt wurde. Eine Warnung für die ganze Produktfamilie wäre zu breit; eine Warnung ohne Version könnte Betroffene übersehen.

Als möglichen Anker nennt der Bericht eine eindeutige Gerätekennung, UDI. Sie beantwortet die Frage nach der Identität, aber nicht automatisch nach der Historie. Nötig ist die Verbindung von Kennung, Version oder Modellzustand, Einsatzzeitpunkt, zugelassener Verwendung, anwendbarem Änderungsplan und späterer Aktualisierung, Korrektur oder Rücksetzung.

Die Informationen liegen bei verschiedenen Akteuren. Hersteller kennen Releases. Leistungserbringer kennen Standort und Ablauf. Systeme für Patientenakten bestimmen, ob das Feld am Behandlungsort gespeichert wird. Fachkräfte und Patienten beobachten Nutzung und Ergebnis. Die MHRA bewertet Signale. Ministerium und dezentrale Stellen gestalten Politik und Umsetzung. Ohne gemeinsame Referenz kann jeder sein Teilstück besitzen und die Gesamtkette dennoch unauffindbar bleiben.

Eine öffentliche Suche ist kein Kausalitätsurteil

Empfehlung 19 regt ein öffentliches Werkzeug an, mit dem Vorfälle nach Hersteller, Gerät und Zeitraum gesucht werden können. Der derzeitige Yellow-Card-Dienst für Medizinprodukte nimmt bereits Hinweise zu Software, Apps und künstlicher Intelligenz entgegen. Er ist ein Meldeweg, nicht die vorgeschlagene öffentliche Gerätevorfalldatenbank.

Ein Bericht kann unvollständig, doppelt, ungeprüft oder später ohne ursächlichen Zusammenhang sein. Ein öffentliches Register sollte Eingang, Sichtung, Untersuchung, Befund, Maßnahme, Korrektur und Abschluss unterscheiden. Rohe Fallzahlen sind ohne Nutzungsmenge kein Ausfallmaß und ohne Untersuchung kein Schuldnachweis.

Die Version macht Suche handlungsnäher. Sie kann zeigen, ob ein Muster nach einem Update begann, auf einen Standort begrenzt blieb oder nach einer Rücksetzung verschwand. Eine Behörde kann die betroffene Kohorte genauer bestimmen, statt alle früheren Nutzer des Produktnamens gleich zu behandeln.

Empfehlung 18 befasst sich mit dem fragmentierten Informationsaustausch. Empfehlung 21 sieht automatisierte Meldungen mit geringer Belastung vor und weist zugleich auf Werkzeuge hin, die Prüfer für das größere Volumen brauchen. Automatischer Transport ersetzt keine klinische Bewertung und keine hoheitliche Entscheidung.

Die vierte Ebene fehlt mit Absicht

Die offizielle Kommissionsseite bezeichnet das Gremium als unabhängig, beratend und nicht gesetzlich verankert. Der Bericht trennt Ziel, Prinzipien, empfohlene Innovationen und konkrete Politikgestaltung. Die vierte Ebene bleibt ausdrücklich beim zuständigen Regulierer, Ministerium oder anderen öffentlichen Organ.

Laut Publikationsseite folgt eine ressortübergreifende Regierungsantwort. Der Bericht hat deshalb weder stufenweise Zulassungen aktiviert noch ein öffentliches KI-Vorfallregister geschaffen, Versionsfelder in allen Akten eingeführt oder neue Bußgeldbefugnisse erlassen.

Die Umsetzung muss außerdem dezentrale Gesundheitssysteme und Nordirlands besondere Stellung im Windsor-Rahmen berücksichtigen. Eine britische Zielsetzung erzeugt nicht von selbst dieselbe Rechtsgrundlage und dasselbe Datenformat in allen vier Landesteilen.

Der Verzeichnislink dieses Artikels verweist auf das Department of Health and Social Care, weil die Regierungsantwort und Systemumsetzung einen politischen Eigentümer brauchen. Das macht das Ministerium weder zur Kommission noch zur MHRA.

Ein versionierter Nachweis statt eines allgemeinen Versprechens

Für jeden eingesetzten Zustand könnte ein kompakter Sicherungsnachweis Hersteller, Gerät, Version oder Modellzustand, Standort, Zweck, Stufenbedingungen, Änderungsplan, Überwachungszeitraum, Leistungs- und Gleichheitsmaße, Referenz in der Patientenakte, Vorfall oder Beinaheereignis, Eskalationsverantwortlichen, betroffene Kohorte, Regulierungsentscheidung, Korrektur oder Rollback und Nachfolgeversion verbinden.

Nicht alle Felder gehören in die Öffentlichkeit. Patient, Leistungserbringer, Hersteller und Regulierer können unterschiedliche Sichten erhalten. Gemeinsam sein müssen eine stabile Kennung und eine Historie, die frühere Zustände und Berichtigungen nicht löscht.

Lu Hengs Policy-Mirror-Disziplin trennt Meldung und Beteiligung von der verantworteten Entscheidung. Sein Argument für laufenden Code liefert die Praxisprobe: Bleibt die Referenz nach Update, Überweisung, Datenmigration und Anbieterwechsel erhalten?

Die Kommission hat die richtige Beobachtungseinheit benannt. Ob sie Macht, Finanzierung, technische Form und Frist erhält, entscheidet erst die nächste politische Stufe.

Quellen

  1. Vollständige Empfehlungen der Kommission
  2. Offizielle Publikationsseite
  3. Bekanntmachung der MHRA
  4. Status und nächste Schritte der Kommission
  5. Forschung, Beteiligung und Evidenzaufruf
  6. Marktüberwachungsvorschriften für Medizinprodukte 2024
  7. MHRA Yellow Card — Medizinprodukte
  8. Bericht zur zweiten Phase von AI Airlock
  9. Lu Heng — The Policy Mirror
  10. Lu Heng — Running Code Primary
  11. Lu Heng — Why BTW Media Exists