El Grok が AI コンテンツモデレーションをめぐる論争を引き起こす

「El Grok が AI コンテンツモデレーションをめぐる論争を引き起こす」は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場可視性に結びつけているため、BTW メディアによってプロファイルされています。

• イーロン・マスクの X プラットフォームは、AI が生成した衝撃的な画像で溢れかえり、AI コンテンツモデレーションをめぐる議論を引き起こした。
• X 上の規制されていない画像生成ツールは、AI の安全性と倫理的影響を評価するためのテストケースとして機能している。

私たちの見解
イーロン・マスクによる最近の El Grok の実験は、最低限の AI 規制の結果を浮き彫りにした。挑発的で攻撃的な画像の洪水は、公共の人物を不適切な文脈で示すものも含め、イノベーションとコンテンツモデレーションのバランスについて懸念を引き起こしている。マスクは規制の少ない AI を提唱しているが、この論争は悪用を防ぎ、新興技術における倫理基準を確保するための強固な保護策の必要性を強調している。
- BTW 記者、テイシー・ディン

何が起きたのか

先週、イーロン・マスクのソーシャルメディアプラットフォーム X は、暴力的、攻撃的、または性的に示唆的なものも含む、奇妙なコンピューター生成画像の洪水に見舞われた。中には、トランプが炎上するワールドトレードセンターの上空をヘリコプターで飛ぶ様子や、カマラ・ハリスがビキニ姿のもの、ドナルドダックがヘロインを使用するものなどがあった。オンラインの騒動の中、マスクは「El Grokは世界で一番面白い AI だ！」とコメントした。

金曜日までには、衝撃的な画像は既にその目新しさを失い始めていた。データ分析会社 PeakMetrics によると、El Grok に関する投稿数は、画像生成機能の発表から 2 日後の 8 月 15 日に 166,000 件のピークに達した。

熱狂は静まったが、El Grok のバイラルな瞬間のより持続的な影響は、AI コンテンツモデレーションという新興分野への影響かもしれない。El Grok の立ち上げは、ガードレールが限られているか存在しない場合に何が起こるかを試す危険な実験だった。

こちらもお読みください:マスク、Neuralink が 2 人目の患者に脳チップを埋め込むと発表

こちらもお読みください:El Grok AI の所有者は誰か？

なぜこれが重要なのか

イーロン・マスクは、OpenAI や Google のツールが「ポリティカリーコレクト」すぎると批判し、最低限の規制しか受けない AI の強力な支持者だ。Black Forest Labs の新興企業である El Grok が生み出す無修正の画像にもかかわらず、同社でさえ一部のコンテンツ制限を課している。AI 企業は一般的に、名誉毀損、著作権侵害、または欺瞞的なコンテンツを避けるためにコントロールを適用し、ヌード、暴力、流血シーンを制限している。OpenAI の DALL-E は、「刺激的」または性的に示唆的な画像や有名人の画像を避ける。

バイラル画像がこれらのツールが何を見せるべきかという議論を激化させる中、トランプの強力な支持者であるマスクは、議論に政治的次元を持ち込んでいる。オンラインネットワークを研究するアトランティック・カウンシルのシニアレジデント研究員であるエマーソン・ブルッキングは、「反ウォーク（反ポリコレ）」AI 開発の強調は逆効果になりかねないと示唆した。「AI の安全性を軽視し、怒りを煽ることで、マスクは AI 開発をより広範に政治化しようとしているのかもしれない」と彼は述べた。「これは AI 研究にも世界にも有益ではないが、イーロン・マスクにとっては有利になるかもしれない。」