要約

  • Ofcomは2026年9月9日、NCIIの閲覧・共有を防ぐ措置を調べる分野横断の執行プログラムを開始した。当初は成人向けサービスとインスタントメッセージングに重点を置くが、開始の公表は特定サービスの違反認定ではない。
  • 9月30日に効力を持つICU C14は、条件を満たすサービスにハッシュ照合を勧告する一方、初回の未検証ハッシュ一致を「違法かもしれないと疑う理由」と位置づける。十分な確証がある場合の迅速な措置、人による適切な割合の確認、代替措置、異議申立てとプライバシー保護も同じ仕組みに含まれる。

執行プログラムは違反認定の一歩手前にも達していない

Ofcomのプログラム告知は、対象となり得るサービスを特定し、実施措置を評価し、潜在的な不遵守が見つかれば正式執行を検討するという順序を示す。重点分野に選ばれること、情報を求められること、正式調査を受けること、違反と判断されることは、それぞれ別の状態だ。

NCIIが再投稿されるたび、被害は新しく繰り返される。早い対応が必要であることに疑いはない。しかし被害の重大さは、業界調査を一括の有罪判断に変えない。告知は特定企業を名指しで違反とせず、成人向け・メッセージングという呼称だけで全サービスが同じ措置の対象になるとも述べていない。

根拠法のOnline Safety Act 2023第10条は、規制対象のユーザー間サービスに、優先違法コンテンツへの接触を防ぎ、評価済みリスクを管理するための相応な設計・運用措置を求める。さらに、優先違法コンテンツが残る時間を短縮し、通報などで把握した違法コンテンツを迅速に削除するシステムを運用しなければならない。

9月9日改正を取り込んだユーザー間サービス向けコードは9月30日に発効する。該当する勧告措置を実施すれば、対応する義務を果たしたものと扱われる。別の措置を選ぶ余地もあるが、その内容、義務を満たす理由、表現の自由と英国利用者のプライバシーへの配慮を記録する必要がある。

Ofcomのニュース発表は「ハッシュ照合を使うか、同等に有効な手段を証明する」と平易に伝えた。ただし詳細な適用条件はコードに残る。これは単一業者の採用命令でも、9月30日に違反判断が一斉に確定するという意味でもない。

C14の対象はサービスごとに確かめる

ICU C14の入口は、写真、動画その他の視覚的ユーザー生成コンテンツを作成、アップロード、共有できるサービスである。そこからさらにリスク、主目的、規模またはファイル共有機能を満たす必要がある。高リスクで、規制対象ポルノのホスティング・配信を主目的とする場合、英国の月間アクティブ利用者が70万人を超える場合、ファイル保存・共有サービスである場合などが含まれる。中または高リスクの大規模サービスも対象になる。

したがって「メッセージング」は監督上の分野名にすぎず、適用根拠ではない。どの条件に該当するのかを個別に示す必要がある。また、C14はユーザーの全ファイルを公に点検する制度を意味しない。

技術的に可能なら知覚ハッシュを使い、動画について適切なハッシュ集合が知覚照合に対応しない場合は暗号学的ハッシュを使う。知覚ハッシュは視覚上の近似を扱い、暗号学的ハッシュは同一データの確認に向く。Ofcomの決定声明は、StopNCII.orgの主要な第三者データベースと同等以上の集合を目標にする。これは運用能力の基準であり、各ハッシュが永久に正しいという保証ではない。

コードは、登録時点で親密画像虐待コンテンツと判断された「検証済みハッシュ」と、それ以外の「未検証ハッシュ」を区別する。この区別は次の処理を左右するが、新しい投稿の同意や文脈まで運ぶものではない。

一致の意味は確証によって分岐する

未検証ハッシュとの最初の一致は、知覚照合ではその設定での初回、暗号学的照合では当該ハッシュへの初回一致として扱われる。ICU C14.4は、これを「違法コンテンツかもしれないと疑う理由」とし、ICU C1に従う確認へ送る。検出器は質問を発見するのであって、法的回答を完成させない。

それ以外の一致には二つの経路がある。照合技術と周辺プロセスに十分な確証があれば、サービスは違法コンテンツとして迅速に削除できる。確証が足りなければ、やはり疑いとして確認する。すべての一致を同じ意味に扱う規則ではない。

Illegal Content Judgements Guidanceは、英国法を十分理解し、合理的に入手できる関連情報をすべて考慮してから、犯罪を推認する合理的根拠があるか判断するよう求める。親密画像では、通報、説明文、投稿文脈、同意に関する情報が結論を変え得る。画像の近さだけではそれらを確定できない。

この区別は遅延の口実ではない。既存コンテンツは合理的期間内に、新規コンテンツは英国利用者が接触する前またはできる限り直後に分析する。速度と判断可能性を同時に設計することが求められる。

人による確認には二つの仕事がある

ICU C14は、検出コンテンツの適切な割合を人のモデレーターが確認・評価するよう求める。人による確認割合のガイダンスは一律の比率を示さない。文書化された性能、精度、エラー傾向、被害リスクに応じて配分を変える。

第一の仕事は個別モデレーションである。例えば未検証ハッシュへの初回一致が実際に親密画像かを判断する。第二は品質保証で、検出済みコンテンツと自動・人手の決定を標本として再評価し、仕組み全体の問題を探す。再現率を優先した知覚設定や未検証ハッシュは誤検出を増やし得るため、確認割合を高める理由になる。一方、確証が高く、削除の遅れが被写体に深刻な害を与える場合は、確認待ちを少なくする判断もあり得る。

誤った措置が投稿者に与える影響も考慮する。アカウント制限、収益喪失、検索順位低下など、影響が大きいほど迅速に元へ戻せるかが重要になる。品質保証は一致したものだけでなく、通報、苦情、コミュニティ審査、標本調査から見つかった未検出コンテンツも調べる。偽陰性を数えなければ、検出器の実力は測れない。

ハッシュ集合は十分な原資料を含み、継続更新し、不正アクセスや改変から守る。誤ったハッシュと判断した場合は削除に向けた合理的措置を取る。知覚照合の精度と再現率の均衡は少なくとも半年ごとに見直し、設定根拠と対応を記録する。Ofcomはこれらを表現の自由とプライバシーの保護策と位置づけ、データ保護法も引き続き適用されると明記する。

被害情報を含めない「一致から決定までの受領記録」

運用を確かめるため、私は一致から決定までの受領記録を提案する。サービスとポリシー版、ハッシュ集合の提供元と版、検証済み・未検証の別、照合方式、設定区分、確認か即時措置かを決めた確証段階を記す。

次に、考慮した文脈情報の種類、人手が個別判断と品質保証のどちらを担ったか、措置時刻、可逆性、苦情・異議申立て、復旧やハッシュ修正、設定変更をつなぐ。集計面では誤検出と見逃しの分母、確認割合、半年評価日を示す。規制状態は別欄で、分野プログラム、評価中、正式調査、適合確認、違反認定を混同しない。

公開記録に画像、本人の身元、再利用可能なハッシュ、申立ての詳細、回避に使える閾値を載せてはならない。Ofcom向けの保護証拠は別に保持できる。目的は被害者のデータベースを増やすことではなく、状態変更に理由と責任者が存在したことを示すことだ。

これは編集上の提案であり、Ofcomや法律の既存要件ではない。The Policy Mirrorの権限追跡、Running Code Primaryの実行点で制度を見る方法、Why BTW Media Existsの事実と主張を分離する原則を、この仕組みに適用したものだ。

OfcomはNCIIへの能動的対策を2026–27年のオンライン安全優先事項に置く一方、優先順位は他サービスの義務を変えないと説明する。成功は一致件数の最大化ではない。有害な再流通が減り、誤りを見つけ、説明し、可能な限り戻せることにある。

出典

  1. Ofcom — NCII執行プログラム
  2. Ofcom — 9月30日措置の発表
  3. Ofcom — 親密画像虐待の検出に関する声明
  4. Ofcom — ユーザー間サービス向け違法コンテンツコード
  5. Ofcom — 人による確認割合のガイダンス
  6. Ofcom — Illegal Content Judgements Guidance
  7. Online Safety Act 2023
  8. Ofcom — 2026–27年オンライン安全優先事項
  9. Heng Lu — The Policy Mirror
  10. Heng Lu — Running Code Primary
  11. Heng Lu — Why BTW Media Exists