• インドネシアは、AI 生成の性的ディープフェイクのリスクを理由に Grok のブロックを正当化している。
  • 政府や監視機関は、生成 AI ツールに対するより強固な保護策をますます求めている。

何が起こったのか：ある国が露骨な画像を理由にチャットボットをブロック

インドネシア通信・デジタル省は 2026 年 1 月 10 日、イーロン・マスク氏の xAI が開発した AI チャットボット「Grok」へのアクセスを一時的にブロックした。この決定は、Grok の画像生成機能が同意のない性的ディープフェイクの作成に利用されており、女性や未成年者の露骨な描写も含まれているとの報告を受けたものだ。

ムーティヤ・ハフィド大臣は、この禁止措置が AI 生成のポルノコンテンツから女性、子ども、一般市民を保護することを目的としていると述べた。インドネシアの今回の措置は、Grok に対してこのような制限を課した世界初の事例となる。

世界的な批判を受け、xAI はセキュリティ上の欠陥を修正する間、Grok の画像生成・編集機能を有料ユーザーのみに制限していた。しかし一部の報告によると、この制限措置はすべてのプラットフォームで画像ツールへのアクセスを完全に遮断していない可能性があるという。

なぜ重要なのか

この事件は、堅牢な安全対策なしに生成 AI が急速に展開されていることへの世界的な懸念の高まりを浮き彫りにしている。各国は現在、イノベーション、デジタル権利、公衆の保護のバランスを取るようますます圧力を受けている。

インドネシアの行動は他国にも同様の措置を促した。マレーシアも繰り返し悪用が報告されたとして Grok への一時的なアクセス制限を課した。一方、EU と英国の規制当局は、ディープフェイクや AI 生成の有害コンテンツに関連するリスクを調査している。

批判派は、アクセス制限や有料ユーザーのみに機能を限定するだけでは根本的なセキュリティ上の欠陥に十分に対処できないと主張している。一部の研究者は、露骨なディープフェイクの広範な作成が有害コンテンツを常態化させ、法執行機関の対応を複雑化させる可能性があると警告している。

今回の出来事は、より厳格な AI 監視枠組みのきっかけとなり、社会が現実的でありながら有害なコンテンツを生成できるツールをどのように扱うべきかという、より広範な問題を提起する可能性がある。コンプライアンス、施行、ユーザーの説明責任は今後の政策議論の中心であり続けるだろう。

あわせて読みたい：EU、X の Grok AI 記録保持命令を 2026 年まで延長
あわせて読みたい：イーロン・マスク氏の xAI、Grok ディープフェイクへの反発強まる中 200 億ドルを調達