• Meta 監視委員会は、Meta のプラットフォーム上で著名な女性を無断で使用した AI 生成ポルノコンテンツを審査した後、決定を公表した。
  • Meta は、委員会の勧告を検討し、必要な変更を実施することを約束し、同社のプラットフォーム上の AI 生成ポルノに関する懸念に対処する意思を示した。

【BTW Media の見解】
Meta 監視委員会は同社に対し指令を発出し、AI 生成ポルノの取り扱いに関してより明確かつ包括的なガイドラインの必要性を強調した。この姿勢は、有害コンテンツからユーザーを保護するテクノロジー企業の責任をめぐる、より広範な社会的議論を反映している。
- BTW Media 記者リア・シュー

経緯

Meta 監視委員会は、Meta が出資する独立機関であり、Meta のプラットフォーム（Facebook と Instagram）上で著名な女性を無断で使用した AI 生成ポルノコンテンツの 2 件を審査した後、この種のコンテンツの流通を防ぐための変更を求めた。

同委員会は、同意のない画像生成の問題に効果的に対処し、ディープフェイク技術の悪影響から個人を保護するため、生成 AI を含むより幅広い編集技術をカバーするようルールを更新することを Meta に勧告した。

Meta は、インド人女性を無断で使用したAI 生成画像に関するユーザーからの報告を 48 時間以内に迅速に審査することができなかった。そのため、チケットは自動的にクローズされ、何の措置も取られなかった。一方、米国人セレブリティの事例では、Meta のシステムが自動的に画像を削除した。

委員会は「この種のコンテンツへの制限は正当であり、被害の深刻さを考慮すると、影響を受けた人々を保護する唯一の効果的な手段はコンテンツの削除だ」と述べた。

関連記事：ナイジェリア、データおよびプライバシー違反で Meta に 2 億 2000 万ドルの罰金

関連記事：Meta、AI モデル Llama 3 の改良版を発表

なぜ重要か

実在の人物を性的に描写した AI 生成コンテンツに関する明確なルールを設けることは、Meta がオンラインコンテンツ関連の法規制を遵守し、潜在的な法的問題から同社を守るのに役立つ。「ディープフェイクによる性的画像の被害者の多くは有名人ではなく、同意のない画像の拡散を受け入れるか、自ら各事例を探し出して報告することを強いられている」と委員会は指摘した。

Meta は AI 生成ポルノに関するガイドラインを策定し、Facebook や Instagram などのプラットフォームの完全性を確保し、すべてのユーザーにとって安全で敬意のあるオンライン環境を維持しなければならない。同社は、委員会の勧告を検討し、採用した変更について最新情報を提供すると述べた。

監視委員会の関与により、Meta はコンテンツポリシーを一貫して透明性をもって適用せざるを得なくなり、有害コンテンツをモデレートして削除する責任を同社が確実に果たすことが保証される。