Grok AI、性的ディープフェイクをめぐる世界的抗議を受け画像生成を制限

「Grok AI、性的ディープフェイクをめぐる世界的抗議を受け画像生成を制限」は、公開証拠がインターネットインフラ、ガバナンス、運用依存関係、市場の可視性に関連付けているため、BTW Media によりプロファイルされています。

Elon Musk 氏の Grok AI ツールは、女性や子供を含む性的に露骨で有害なコンテンツを作成するために広範に使用されたことを受け、画像生成機能を制限しました。政府、規制当局、擁護団体は、この対応が不十分であると批判しており、生成 AI システムの安全性、責任、倫理的設計について緊急の疑問が提起されています。何が起こったのか？

論争の中での Grok 画像ツールの制限 Elon Musk 氏の xAI が開発し、ソーシャルメディアプラットフォーム X（旧 Twitter）に統合された AI チャットボット Grok は、国際的な反発を受け、画像生成機能を大幅に制限しました。この変更は、ユーザーが同意なく個人を性的または虐待的な文脈で描写するデジタル加工画像を生成するためにツールを悪用し、女性や子供を含む不快な表現を作成した後に行われました。Grok の画像生成機能は、もともとユーザーに無料で提供されていましたが、X 上のほとんどの無料アカウントで無効化され、編集・作成へのアクセスは、身元が登録された有料サブスクライバーにほぼ限定されています。この措置は主要プラットフォームでの安易な悪用を制限しますが、スタンドアロンアプリ Grok や他のアクセスポイントでは依然として有害なコンテンツの生成が可能であると報告されています。調査により、AI が生成した性的画像が何百件も発見され、その中には裸体や暴力をシミュレートしたものも含まれており、安全擁護者の間で警鐘が鳴らされたことで論争は激化しました。監視機関の調査によりツールの安全性の脆弱さが浮き彫りになり、ある分析では反発がピークに達した時点で Grok が 1 時間あたり数千枚の問題画像を生成していたことが示されました。関連記事: トルコ、新たな規制で AI チャットボット Grok をブロック 関連記事: 英国、Musk 氏に Grok の AI

画像への迅速な対応を要請 なぜ重要か Grok の論争は、生成 AI システムの倫理的設計と実装に関する深刻な懸念を浮き彫りにしています。批評家は、有害な出力をサブスクリプションモデルの背後に制限することは、根底にある安全性の欠陥に対処するには不十分であり、有害な機能を排除するのではなく収益化を促す可能性があると主張しています。英国当局は、このペイウォールアプローチを虐待被害者にとって「侮辱的」と評し、被害の防止ではなく商業化に等しい可能性があると警告しました。この問題は複数の管轄区域で規制当局の注目を集めています。英国では、政府大臣がオンライン安全法に基づいて X へのアクセスを制限する可能性を議論し、オーストラリアなどの監視機関は同様の悪用に関する調査を報告しました。例えばマレーシアは、ポルノコンテンツの作成を防ぐ適切な保護手段が欠如しているとして、Grok へのアクセスを一時的に制限する動きを見せました。セキュリティ研究者も Grok

の内部コンテンツポリシーに疑問を呈しており、有害な出力を拒否するガイドラインが弱いか、一貫性なく適用されており、場合によっては危険なリクエストを積極的にブロックするのではなく「善意を前提とする」ようシステムに指示していると指摘しています。この設計上の選択が、現在の反発を引き起こした不適切な画像の急増に寄与したようです。被害者や擁護団体は、実質的な対策が取られる前に被害が拡散することを許したことへの不満を表明しています。同意なく画像を加工された人々など、影響を受けた個人にとって、被害は即時的で極めて個人的なものであり、保護手段が機能しない場合に生成システムがいかに虐待を拡大し得るかを浮き彫りにしています。Grok の事例は、AI における自主規制の限界も示しています。生成ツールの開発者はしばしば安全メカニズムや倫理的障壁を約束しますが、実際の使用では宣言されたポリシーと実際の動作との間にギャップがあることがしばしば明らかになります。政府や規制当局が公開情報源の文脈やより強固な監視枠組みを検討する中で、現在の論争は、強力な生成技術が基本的権利や社会規範を損なわないようにするための、AI 安全性の新たな基準や立法対応を形作る可能性があります。