Google Play、ディープフェイクヌード問題を受け AI アプリの規制を強化

BTW Media は、公開された証拠がインターネットインフラ、ガバナンス、運用依存関係、市場での可視性に関連していることから、Google Play の AI アプリ規制強化（ディープフェイクヌード問題）をプロファイルしています。

• Google は、不適切かつ有害なコンテンツを防止するために、Google Play 上の AI アプリに関するガイドラインを更新しました。
• AI アプリは性的コンテンツや暴力、その他の禁止された素材を生成してはならず、ユーザー向けの報告機能を提供する必要があります。
• 開発者はユーザーの安全のために AI ツールを厳格にテストし、誤解を招く主張を避けるための新しいプロモーションガイドラインに従う必要があります。

当社の見解
Google の AI アプリに関する新しい厳格なポリシーは、AI を悪用してディープフェイクヌードを作成することへの重要な対応です。これらの措置は、非倫理的なアプリの慣行を抑制し、Google Play 上のユーザーのプライバシーと安全を保護するために不可欠です。
—Lydia Luo, BTW 記者

Google は、Google Play 上で利用可能な AI アプリの規制を強化しています。同社は木曜日、AI アプリによって生成される不適切なコンテンツの配信を制限するための新たな措置を発表しました。開発者は今後、AI によって生成された素材が適切であることを保証する、より厳格なルールを遵守しなければならず、ユーザーフィードバックとコンテンツモデレーションに関する新たな規定が設けられています。

不適切なコンテンツの防止

Google の改訂されたガイドラインでは、AI アプリが性的コンテンツや暴力、その他の禁止された出力を含む、制限されたコンテンツの生成を防止するように設計されていることが求められます。開発者は今後、堅牢なコンテンツフィルターを実装し、ユーザーが不快な素材を報告するメカニズムを提供する必要があります。この取り組みは、安全なデジタル環境を維持し、プラットフォーム上のユーザーのプライバシーを保護するという Google の広範な戦略の一環です。さらに、アプリは Google Play で配信される前に、これらのコンテンツ基準を満たしていることを確認するために厳格にテストされなければなりません。

あわせて読みたい：ディープフェイクの幻想を暴き、欺瞞から身を守る

誤解を招くマーケティングの取り締まり

Google は、AI アプリにおける誤解を招くマーケティング手法の問題にも取り組んでいます。一部のアプリは、同意のないディープフェイクヌードを生成できると主張したり、その他の非倫理的な活動に従事したりして宣伝されてきました。例えば、そのようなアプリの広告がソーシャルメディア上に出現し、公人や個人の裸の画像を同意なく作成できるかのように誤って示唆していました。Google の新しいポリシーは、このような誤解を招く使用事例を伴う AI アプリの宣伝を禁止しており、これらのガイドラインに違反したアプリは、実際の機能にかかわらず、Google Play ストアから削除される可能性があります。

あわせて読みたい：Google の AI 概要がしばしば間違う理由

開発者の責任とベストプラクティス

更新された規制に基づき、開発者は AI アプリが有害または不快なコンテンツを生成するように操作されないことを保証する責任があります。これには、厳格なテストとフィードバックプロセスが含まれ、開発者は Google のクローズドテスト機能を利用して、アプリの初期バージョンに関するユーザーフィードバックを収集することができます。Google は、企業がこれらのテストをレビューするよう求める可能性があるため、開発者がこれらのテストを徹底的に文書化することを推奨しています。開発者をさらに支援するため、Google は People + AI Guidebook などのリソースを提供しており、これは新たなガイドラインに準拠した責任ある AI アプリを作成するためのベストプラクティスを提示しています。