Google、検索結果でのディープフェイク露出を低減

検索結果におけるディープフェイク露出削減は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性と関連しているため、BTW Media によってプロファイルされています。

• Google の新しい検索ランキング調整により、非合意の露骨な画像への露出が大幅に削減されました。
• これらの変更により、非露骨なコンテンツやディープフェイクの影響に関するニュース記事が促進されます。

【BTW メディアの見解】
Google が非合意の露骨な画像の可視性を低減するための積極的な対策は、ディープフェイクコンテンツ管理における継続的な課題を浮き彫りにしています。これらの調整は有害なコンテンツへの露出を大幅に削減する上で重要な改善ですが、オンライン上の搾取から個人を保護するには継続的な取り組みと技術進歩が必要であることも示しています。
— Zoey Zhu, BTW ジャーナリスト

発生した経緯

Google は検索結果のランキングに新たな調整を実施し、特定の個人を対象とした検索で非合意の露骨な画像への露出を 70％以上効果的に低減しました。これらの変更は、WIREDの調査を受けて行われたもので、Google の経営陣が同意なしにオンラインで拡散される親密な表現という増大する問題に対処するために提案された複数の対策を以前に拒否していたことが明らかになりました。この調整は、問題のある検索結果をニュース記事やその他の非露骨なコンテンツに置き換えることを目的としています。例えば、「deepfake nudes Jennifer Aniston」を検索すると、ディープフェイクの社会的影響に関する記事やディープフェイク詐欺に関する警告が表示されるようになりました。

更新には主に 3 つの対策が含まれます。削除リクエスト後の重複再表示の防止、類似クエリからの露骨な画像のフィルタリング、削除リクエストの成功数が多いウェブサイトの降格です。これらの変更は、非合意の露骨な画像（NCEI）と闘うための Google のより広範な取り組みの一環であり、検索結果にそのようなコンテンツが表示されることを懸念する人々に更なる安心を提供します。

あわせて読みたい：Apple、AI モデル訓練に Google のチップを採用

あわせて読みたい：英国の独占禁止当局、Google と Anthropic の提携を審査

重要性

AI 画像生成ツールの普及により、非合意の露骨な画像の作成と拡散が容易になり、深刻なプライバシーと倫理の問題を引き起こしています。Google の新たな対策は、このようなコンテンツの可視性を積極的に低下させることで、この問題に対処するための重要な一歩です。Google は、情報価値の高い非露骨な検索結果を促進することで、ディープフェイクの影響について一般の人々を啓蒙しつつ、個人をオンライン上の搾取から保護することを目指しています。

しかし、これらの対策の効果には限界があります。元従業員や被害者支援者は、Google が NCEI と闘うためにより多くのことができると主張しています。改善にもかかわらず、違法コンテンツを含む検索に使用されるような、より強力な警告や予防措置を求める声が上がっています。この継続的な課題は、デジタル時代において個人のプライバシーと尊厳を守るための継続的な技術進歩と規制努力の必要性を浮き彫りにしています。

非合意の露骨な画像の取り扱いに関する Google のアプローチは、他のテクノロジー企業にとって前例となり、積極的な対策と責任あるコンテンツ管理の重要性を強調しています。AI 技術の利用が拡大し続けるにつれて、その潜在的な害を軽減し、より安全なオンライン環境を確保するための包括的な戦略の必要性も高まっています。