• 英国政府は、Elon Musk 氏のネットワーク X に対し、自社の AI「Grok」が生成する有害画像を制限するよう要請。
  • フランス、インド、EU がこれらの生成物を違法と非難する中、規制当局は圧力を強化。

経緯：政府が緊急対応を要求

英国政府は、Elon Musk 氏のソーシャルネットワーク X に対し、AI ツール「Grok」が女性や未成年を含む人々の性的かつ非同意の画像を生成するのを直ちに阻止するよう公に要請した。英国のリズ・ケンドール技術担当大臣は、親密なディープフェイク画像の急増を「まったくもって言語道断」と非難し、プラットフォームに対し緊急に問題を解決するよう求めた。

ロイターの報道によれば、ユーザーは Grok に対し、薄着の女性や子どもの画像を生成するよう要求できたことが示されており、欧州当局の懸念を招いている。こうした同意のない画像の作成や共有は英国では違法であり、プラットフォームはユーザーがそのようなコンテンツに遭遇するのを防ぎ、発見次第削除しなければならない。

X の公式 Safety アカウントは、プラットフォームは違法コンテンツを削除し、関与したアカウントを永久停止すると述べ、Grok に違法な素材の作成を要求した者は、直接アップロードした場合と同様の結果に直面するとした。Elon Musk 氏はこの論争に対し、ソーシャルメディアに笑い絵文字を投稿して反応したとされ、この反応は同社の安全性への真剣さについて新たな批判を招いた。

英国の規制当局 Ofcom は、オンライン安全法に基づく義務の遵守を確保するため、X とその AI 部門 xAI に接触した。フランス当局は検察に問題を通報し、インド政府は説明を要求し、コンテンツをわいせつでありプラットフォームの安全対策の不備だと非難した。

あわせて読みたい:英国、公共部門のサイバー防御強化に 2 億 1000 万ポンドを投資
あわせて読みたい:G.Network、困難な投資家に売却―英国の光ファイバー部門は緊張高まる

重要性

この事件は、生成 AI 技術とユーザー保護を目的とした既存の法律との間の高まる緊張を浮き彫りにしている。Grok が搾取的なディープフェイクを生成できることは、OpenAI や Google など他社の同様のツールがより厳格な保護策を適用している時期に、コンテンツモデレーションの欠陥を露呈している。

複数の法域がこれらの生成物を違法または有害と非難する中、この出来事は今後の AI ガバナンスや規制枠組みに影響を与える可能性がある。英国のオンライン安全法のような現行法の妥当性、そして AI 画像生成がより身近になる中でテクノロジー企業がイノベーションとユーザーの安全をどのように両立させるべきかという疑問を提起している。