• 英国のメディア規制当局は、Grok による性的に露骨なディープフェイクの作成疑惑に関する正式な調査を継続している。
  • カナダのプライバシーコミッショナーは、同様の懸念から、Musk の AI 部門である xAI を含めるように調査を拡大した。

何が起きたか：両国の規制当局、ディープフェイク問題で X とその AI の調査を継続

英国のメディア規制当局Ofcomは、同社が問題のあった画像編集機能を制限する最近の変更にもかかわらず、Elon Musk のソーシャルメディアプラットフォーム X とその AI チャットボット Grok に関する正式な調査を継続すると木曜日に確認した。

Ofcom は、xAI が Grok による実在の人物の画像をビキニなどの性的に露出度の高い服装に変更する機能に課した制限を歓迎しつつも——これは規制当局の懸念に応えるための調整——、Grok がどのようにしてそのようなコンテンツを生成するに至ったのか、また X が英国法に準拠しているかどうかを完全に理解するために、調査が「継続中」であると付け加えた。

この調査は、Grok が同意なく性的に加工されたディープフェイクを作成・共有するために使用されたとの報告に関するもので、品位を傷つける文脈での女性や子どもの画像を含み、英国のオンライン安全法や関連する保護措置への違反となる可能性がある。

一方カナダでは、プライバシーコミッショナー事務局が、性的に露骨なディープフェイクコンテンツの作成と拡散に関する同様の懸念から、X に関する既存の調査を拡大し、Grok の背後にある企業 xAI に関する調査も含めることを発表した。

両規制当局は、Musk の企業による調整が責任を免除するものではなく、プライバシーおよび安全に関する法律への準拠を評価するためにさらなる作業が必要であると強調した。

関連記事：英国の規制当局、X のディープフェイク調査を継続すると発表
関連記事：分析：Musk、Grok のディープフェイクで打撃受けるも、規制上の戦いはまだ終わらず

なぜ重要か

Grok に対する継続的な規制圧力は、リアルだが有害なコンテンツを生成可能な AI システムのガバナンスという、高まりつつある世界的な課題を浮き彫りにしている。ディープフェイクは何年も前から存在しているが、X のような広く利用されているプラットフォームに手軽にアクセスできる形で組み込まれたことで、新たな法的・社会的リスクが生じている。

英国では、オンライン安全法などの法律に違反した場合、Ofcom は最大 1,800 万ポンドまたは全世界売上高の 10％の罰金を科し、裁判所命令によるブロックを要求することもできる。カナダの拡大調査は、プライバシー保護当局が、個人情報が同意なく使用される場合に、データ収集を超えて AI ツールのアウトプットを精査する姿勢を示している。

これらの措置は、業界と立法者が急速な技術進歩に追いつこうとしている中で、世界中の規制当局が同意のない画像操作、AI の安全性、プラットフォームの説明責任にどのように取り組むかについて、先例を作る可能性がある。