要約

  • 10月26日、Ofcomは匿名の成人向けサービス2社の調査を開始した。画像ホスティング案件ではSection 9のリスク評価と、Section 10に基づくICU C14または代替措置が焦点だ。
  • C14は照合を自動判定と同一視しない。未検証ハッシュの初回一致は確認に回し、誤検出の測定と設定記録を求める。

決済への制限命令は調査の起点ではない。運用の出発点にあるのは、サービス自身が作るリスク評価だ。

ハッシュは画像を短い指紋に置き換える。新しいアップロードを、すでに非同意の親密画像（NCII）と確認された素材と照合できる。機械なら「一致、削除」と片づけたくなる仕事だ。Ofcomの規範は、その近道を認めていない。

10月26日、Ofcomは成人向けサービス2社を調査対象にした。1社は画像ホスティング、もう1社は成人コンテンツ共有サービスだ。画像ホスティング案件では、Online Safety Act第9条に沿う違法コンテンツのリスク評価が適切に実施・更新されているか、第10条の履行にICU C14の措置または代替策を採用したかを調べる。Ofcomはサイトの性質を理由に事業者名を公表していない。

C14の対象サービスでは、未検証ハッシュが特定の知覚ハッシュ設定で初めて一致した場合、内容を確認する。ほかの一致も、検出への確信が十分なら削除でき、確信が不足する場合は人が確認する。人によるレビューは適切な割合を確保し、システムの信頼度、被害画像を残す害、合法な投稿を誤って削除する影響を考慮する。

運用には記録が要る。ハッシュ集合は相当数のオリジナルを含み、定期的に更新され、不正アクセスや改ざんから守られるべきだ。NCIIではないと判明したハッシュはデータベースから除く。誤検出の割合を設定に反映し、精度と再現率の均衡を少なくとも6か月ごとに見直し、設定理由と対応を文書化する。ミスの説明ができないフィルターは、ソフトウェアの問題だけでなく統治の問題を抱える。

制御はスキャン前から始まる。第9条はサービス固有のリスク評価と更新を求め、重要な設計・運用変更の前には追加評価を要求する。第10条はそのリスクに応じた措置で、優先違法コンテンツへの接触を防ぎ、危険を管理し、掲載時間を短くし、認知後すみやかに削除する義務を置く。ハッシュは一つの道具であり、運営の結果はサービス側が負う。

Ofcomのプログラム更新によると、同庁は高リスクとみる25サービスに働きかけてきた。複数のサービスがStopNCIIのハッシュ照合を導入中で、複数は英国からのアクセスを遮断し、Ofcomが監視している。今回の2件はその広い監督活動に加わった。公表資料には事業者名、照合設定、誤検出率、提出証拠がない。検証結果を左右するのは、これから開示される記録だ。

違反が確認されれば、Ofcomは最大1800万ポンドまたは対象となる世界売上高の10％の高い方を上限に制裁金を科せる。第144条では決済、広告、インターネット接続などの補助サービスを対象に、裁判所へ制限命令を申請できる。裁判所が法定要件、補助サービスとの関係、英国の被害を防ぐ必要性と比例性を確認し、関係者と利用者の権利を考慮する。判断するのは裁判所だ。Ofcomは申立てと証拠を提出する。

監査可能な運用には、リスク評価、照合、人の確認、訂正、削除を結ぶ記録が必要だ。

一次資料