英規制当局、Elon Musk の Grok AI の性的ディープフェイクを調査

「UK regulator investigates Elon Musk’s Grok AI over deepfake and sexualised images」は、記事の証拠、対象コンテキスト、イベントリンク、関係コンテキストに基づく公開記録です。

• 英メディア規制当局 Ofcom は、Elon Musk の X プラットフォームとその AI チャットボット Grok について、同ツールが性的かつ違法なディープフェイク画像の生成と共有を可能にしたとの懸念から、正式な調査を開始した。 • Keir Starmer 首相はコンテンツを「おぞましい」かつ違法と非難し、X が安全法を遵守しなければ、罰金やサービス制限を含む法的・規制措置が検討されている。 経緯：Grok の悪用に関する Ofcom の調査 英国の通信庁（Ofcom）は、ソーシャルメディアプラットフォーム X が、AI チャットボット Grok による有害な結果、特に英国法に違反する可能性のある性的・ディープフェイク画像について調査を開始した。調査は、X が Grok による不正なコンテンツの生成・拡散リスクを適切に評価・軽減したかどうかを判断するもので、合意のない親密な画像や未成年の性的虐待画像を含む。報告によると、ユーザーは同意なく個人の写真をデジタル改変し、性的に暗示的な画像を生成するよう Grok に指示したという。

公衆や規制当局からの激しい批判を受け、X と AI 開発元の xAI は、主要プラットフォーム上での Grok の画像生成・編集機能を有料購読者に限定し、悪用を制限する措置を講じた。しかし、批判派は、スタンドアロンの Grok アプリなど別のアクセスポイントでは依然としてそのような画像を生成できるため、根本的な問題を完全には解決していないと主張している。 英国政府は強硬な姿勢を取っている。Keir Starmer 首相は事件を「絶対に忌まわしく恥ずべきこと」と呼び、X が Grok の出力を制御できなければ、政府は規制権限を行使してサービスを制限・管理するなど迅速に介入すると議員に警告した。Liz Kendall 技術担当大臣らもこの緊急性に同調し、AI の悪用をオンライン安全やデジタル技術の悪用に関する幅広い懸念と結びつけた。 Ofcom の調査では、英国のオンライン安全法（Online Safety Act）への準拠を評価する。この法律は、性的搾取や虐待を含む違法コンテンツからユーザーを保護するようプラットフォームに義務付けている。規制当局は、重大な違反があった場合、X を英国の決済システムやインターネットアクセスから遮断する裁判所命令を求める権限を持つ。

英国でのこの動きは、世界的な監視の強化を背景に起きている。マレーシアやインドネシアなど複数の国が、Grok の AI 画像生成能力に関する懸念からアクセスを制限し、不快、わいせつ、または非合意のコンテンツを生み出すリスクを挙げている。同様に、Commission européenne も X の地域オンライン安全法への準拠を審査する方針を示した。 参照：Elon Musk、世界的監視下で X のアルゴリズムをオープンソース化へ 参照：Elon Musk の xAI、Grok AI ディープフェイクへの反発が高まる中 200 億ドルを調達 重要性 Ofcom の Grok 調査は、生成 AI、コンテンツモデレーション、法的責任の交差点における重大な緊張を浮き彫りにしている。AI システムがリアルな画像を合成できるようになるにつれ、有害または違法な素材の作成を含む悪用の可能性は、規制当局に既存法の執行と生成 AI 技術に適した新たな枠組みの開発を促している。 この論争は、ユーザー報告や事後対応に大きく依存する現在のプラットフォームガバナンスモデルの限界も浮き彫りにしている。X の対応に対する批判派は、画像生成を有料ユーザーに制限することは、有害コンテンツを排除するのではなく、単に作成能力を収益化するに過ぎず、サブスクリプション要件は基盤技術の悪用を防げないと主張している。

さらに、英国のアプローチは、高位の政策立案者に支持されており、違法画像の共有だけでなく、AI ツールによる作成も犯罪化する方向への移行を示唆している。これは表現の自由、プラットフォームの責任、規制範囲に影響を及ぼす立場である。 有益なユースケースを阻害せずに AI を規制しようとする当局にとって、安全性、イノベーション、市民的自由のバランスを取ることが中心的課題となる。 X と Musk の xAI を通じたより広範な AI の野心にとって、この調査の結果は、ユーザーの信頼、プラットフォームのガバナンスポリシー、そして政府が多額の罰金やサービス制限を含むより厳しい義務を課す意欲に影響を与える可能性がある。世界中の規制当局や立法府は、英国の行動を注意深く見守るだろう。なぜなら、それが広く使われるソーシャルプラットフォームに統合された生成 AI システムの監視に関する前例を作る可能性があるからだ。