Zusammenfassung

  • Ofcom untersucht seit dem 26. Oktober zwei nicht genannte Erwachsenendienste. Beim Bild-Hoster prüft die Behörde dessen Risikobewertung und Schritte, um bekannte intime Aufnahmen ohne Zustimmung zu erkennen und zu entfernen.
  • Ofcoms Code empfiehlt in Maßnahme C14 den Hash-Abgleich für intime Aufnahmen. Ein erster Treffer mit ungeprüftem Hash gehört in die menschliche Prüfung; Ofcoms Programm umfasst außerdem StopNCII-Einführungen und UK-Geosperren.

Am 26. Oktober eröffnete Ofcom Ermittlungen gegen zwei nicht genannte Erwachsenendienste: einen Bild-Hoster und einen Dienst zum Teilen von Erwachseneninhalten. Beim Bild-Hoster prüft die Behörde, ob der Anbieter eine geeignete und ausreichende Risikobewertung für illegale Inhalte erstellt und aktuell gehalten hat und ob er Maßnahmen aus C14 oder wirksame Alternativen nach Section 10 des Online Safety Act eingeführt hat. Der Anbieter bleibt ungenannt.

Der breitere Aufsichtskontext zeigt zwei konkrete Antworten der Dienste. Ofcom sagt, die Behörde habe 25 Angebote angesprochen, die sie als besonders risikoreich einstuft. Mehrere führen den Hash-Abgleich von StopNCII ein; mehrere sperren den Zugang aus dem Vereinigten Königreich. Ofcom überwacht diese Geosperren weiter. Das sind keine abstrakten Richtlinien, sondern Entscheidungen darüber, wie ein Dienst seine Nutzer in Großbritannien schützt und welche Teile seines Angebots dort erreichbar bleiben.

Ein Hash ist der kompakte Fingerabdruck eines Bildes. Er kann einen Upload mit bereits bestätigten nicht einvernehmlichen intimen Bildern (NCII) vergleichen. Ofcoms Code führt dafür C14 als Maßnahme zur Erkennung solcher Bilder auf; wo es technisch möglich ist, empfiehlt er perceptual hashing. Ein erster positiver Treffer mit einem ungeprüften Hash muss bei der jeweiligen Konfiguration geprüft werden. Bei weiteren Treffern hängt eine Entfernung vom Sicherheitsgrad der Erkennung ab.

Menschliche Moderatoren müssen einen angemessenen Anteil kontrollieren und zugleich die Verlässlichkeit des Systems, den Schaden durch online bleibende Missbrauchsbilder und die Folgen einer falschen Löschung abwägen.

Damit der Abgleich funktioniert, braucht auch die Hash-Sammlung eine nachvollziehbare Herkunft und Pflege. Der Code erwartet eine bedeutende Zahl von Originalbildern, regelmäßige Aktualisierung und Schutz vor Manipulation. Als falsch erkannte Hashes sollen entfernt werden. Anbieter müssen Fehlalarme berücksichtigen, Präzision und Trefferquote mindestens alle sechs Monate erneut prüfen und die Konfiguration schriftlich festhalten. Diese Aufzeichnungen verbinden den technischen Treffer mit der Entscheidung eines Menschen und zeigen, ob die Fehlerkontrolle im Alltag stattfindet.

Section 9 beginnt vor dem ersten Upload: Der Anbieter muss die Risiken seines konkreten Dienstes bewerten und die Einschätzung aktuell halten. Section 10 verlangt daraus abgeleitete verhältnismäßige Maßnahmen, die Nutzer vor vorrangig illegalen Inhalten schützen, Risiken mindern, die Verweildauer illegaler Inhalte senken und bekannte Inhalte zügig entfernen. Genau diese Kette steht im Bild-Hoster-Verfahren im Fokus.

Bei einem nachgewiesenen Verstoß kann Ofcom nach eigenen Angaben bis zu 18 Millionen Pfund oder zehn Prozent des maßgeblichen weltweiten Umsatzes verhängen – je nachdem, welcher Betrag höher ist. Section 144 eröffnet einen gesonderten Weg: Ofcom kann beim Gericht eine Beschränkung von Hilfsdiensten beantragen, etwa von Zahlungs-, Werbe- oder Internetzugangsdiensten. Das Gericht prüft die gesetzlichen Voraussetzungen, die Verbindung zum Hilfsdienst, Notwendigkeit und Verhältnismäßigkeit sowie die Rechte der Beteiligten und Nutzer. Ein solcher Antrag braucht ein eigenes Gerichtsverfahren.

Die 25 Kontakte und zwei Ermittlungen zeigen, wie Ofcom von breiter Aufsicht zu konkreten Prüfungen übergeht. Für einen Anbieter wird die entscheidende Frage sein, ob seine Unterlagen erklären, warum ein Bild markiert wurde, wer einen zweifelhaften Treffer geprüft hat und wie ein Fehler aus dem System verschwand. Dort lässt sich messen, ob der Filter wirklich Schutz organisiert.

Quellen