• EU は、Grok の X への統合が、性的なディープフェイクを含む有害かつ違法なコンテンツの拡散を可能にしたかどうかを調査している。
  • この動きは、デジタルサービス法（DSA）の下で、AI の行動に対する監視がデータだけでなく強化されていることを反映しており、プラットフォームの責任に関するより広範な問題を提起している。

何が起きたか：EU の Grok および X 機能に対する正式措置

欧州委員会は、ソーシャルメディアプラットフォーム X とその統合 AI チャットボット Grok に対する正式調査を開始した。この組み合わせが、AI ツールによって生成された性的な画像を含む有害かつ違法なコンテンツから、EU のユーザーを保護する能力に焦点を当てている。

調査では、X と Grok が、EU のデジタルサービス法（DSA）に準拠していたかどうか、プラットフォーム上で AI 機能を展開する際に、違法コンテンツの拡散に関するリスクが適切に特定され軽減されていたかどうかを評価する。

違反の疑いは、ユーザーが Grok に、成人や未成年者の性的に露骨なディープフェイク画像の作成を依頼できたとの報告を受けて生じており、これが規制当局の反応を引き起こした。

EU の調査は、X のレコメンデーションシステムやコンテンツモデレーションのコンプライアンスを精査した過去の手続きを基にしており、大規模プラットフォームにおける AI 駆動の行動を対象に規制監視が拡大していることを示している。

関連記事：英国規制当局、X のディープフェイク調査を継続と発表
関連記事：分析：Musk は Grok のディープフェイクで打撃受けるも、規制闘争は終わらず

なぜこれが重要なのか

この調査は、欧州当局が AI プラットフォームのコンプライアンスに取り組む方法に明確な変化を示している。データのプライバシーだけでなく、生成 AI の現実世界での行動と、それが引き起こす可能性のある害に重点を置いているのだ。従来、規制措置はデータの収集や保持に焦点が当てられてきたが、今やプラットフォームは、そのシステムがどのようにコンテンツを生成し、推奨し、ユーザーがアクセスできるように配信するかについて責任を問われている。

デジタルサービス法に基づき、欧州委員会は、アルゴリズムやモデレーションシステムに関する情報を要求する権限を含む広範な調査権限を持ち、違反が認められた場合には実質的な制裁を課すことができる。

しかし、この取り組みは、プラットフォームガバナンスと適正手続きに関する議論も引き起こしている。批評家は、多様な文化や法体系にわたるコンテンツ基準の適用は本質的に複雑であり、コンプライアンスコストがイノベーションを妨げる可能性があると主張するかもしれない。また、ディープフェイクや有害コンテンツへの技術的解決策に過度に依存すると、明確な責任がなければ、責任がプラットフォーム運営者から離れてしまうリスクがあると警告する声もある。

さらに、規制当局が脆弱なユーザーを保護しようと努める中で、特にこうした自動化ツールが世界中の数十億人にサービスを提供する場合、表現の自由と AI 生成物の自動規制をどのように両立させるかという疑問が残る。

調査が進むにつれ、これは規制当局だけでなく、将来のリスクとコンプライアンスの枠組みを評価する AI 開発者、市民社会グループ、クラウドプラットフォーム事業者によっても注視されるだろう。