Кратко

  • 26 октября Ofcom открыла два расследования в отношении неназванных сервисов для взрослых. В деле фотохостинга она проверяет оценку рисков и меры по выявлению и удалению известных интимных изображений, опубликованных без согласия.
  • Код Ofcom рекомендует хеш-сопоставление в рамках меры C14. Первое совпадение с непроверенным хешем требует проверки человеком; оператору нужны записи об ошибках и настройках.

Для сервиса, который принимает интимные изображения, слово «совпало» должно запускать проверку, а не автоматический приговор. 26 октября Ofcom объявила о двух расследованиях: одно касается фотохостинга, другое — сервиса обмена контентом для взрослых. В деле фотохостинга регулятор выясняет, подготовил ли оператор надлежащую оценку риска незаконного контента и поддерживал ли её актуальной по статье 9 Online Safety Act, а также принял ли предусмотренные кодом меры C14 или альтернативы по статье 10. Имена сервисов Ofcom не раскрыла.

Хеш — короткий цифровой отпечаток изображения. Он позволяет сравнить загрузку с материалом, уже установленным как интимное изображение без согласия (NCII). В коде Ofcom мера C14 описывает выявление такого материала по хешам для сервисов, которые входят в её область действия; при технической возможности код рекомендует перцептивное сопоставление изображений.

Первое положительное совпадение с непроверенным хешем при заданной конфигурации должно попасть на проверку. Остальные совпадения могут быть удалены при достаточной уверенности системы; в других случаях их тоже должен оценить человек. Модератору приходится взвешивать надёжность обнаружения, вред от оставленного в сети изображения и ущерб пользователю от ошибочного удаления. Так «эффективность фильтра» превращается в конкретный рабочий процесс.

И сам набор хешей требует контроля. Он должен содержать достаточно оригиналов, регулярно обновляться и быть защищён от подмены. Ошибочные хеши нужно удалять; ложные срабатывания — измерять, а работу настроек пересматривать не реже раза в полгода. Для оператора это журнал решений: от источника изображения до того, кто проверил спорное совпадение и исправил ошибку.

Программа Ofcom уже показывает, как различаются ответы сервисов. Регулятор говорит, что обратился к 25 платформам, которые считает высокорисковыми: несколько внедряют сопоставление StopNCII, несколько закрыли доступ из Великобритании. Геоблок виден снаружи; качество базы хешей и человеческой проверки видно в документах. Ofcom продолжает отслеживать блокировки, а два новых расследования переводят часть этой работы в формальную проверку.

За установленное нарушение Ofcom может назначить штраф до 18 млн фунтов стерлингов или 10% учитываемой мировой выручки — в зависимости от того, какая сумма больше. Для ограничения вспомогательных услуг статья 144 требует отдельного обращения Ofcom в суд. Суд проверяет основания закона, связь с такой услугой, необходимость и соразмерность меры, а также права затронутых сторон и пользователей. Это самостоятельный судебный маршрут, а не автоматическое продолжение расследования.

У рынка уже есть два заметных сигнала: сервис внедряет сопоставление или закрывает доступ в Великобританию. Важнейшее доказательство эффективности — цепочка записей о том, как оператор различает вредный материал, ошибочное совпадение и законную публикацию. Именно такой след должен объяснить, работает ли защита в ежедневной эксплуатации.

Источники