Instagram が AI 生成のアジア人を一時的に無効化

「Instagram が AI 生成のアジア人を一時的に無効化」は、公開された証拠がインターネットインフラ、ガバナンス、運用上の依存関係、または市場での可視性に関連しているため、BTW Media によってプロファイルされています。

• Meta の AI 画像生成機能は、Instagram で正確なアジア人の画像生成が一時的にできなくなった。
• 問題の修正を求める最初の要求や試みにもかかわらず、Meta は記者の質問に回答せず、説明も提供しなかった。
• このインシデントは、AI システムにおける人種表現と正確性に対する根強い懸念を浮き彫りにし、Meta の画像生成技術の一層の精査を促している。

Meta の AI 画像生成機能は、以前に指定された人種にかかわらず誰もがアジア人として描写される問題に続き、正確なアジア人の画像を生成できない一時的な問題を起こした。

Instagram の AI 画像生成機能のバグ

こちらもお読みください：Meta のスタンドアローン AI 画像生成機能：人間の創造性への有意義な貢献

昨日、私は Meta の AI 画像生成機能が、リクエストテキストで指定された人種にかかわらず、人々を常にアジア人として描写していると指摘した。今日、私は一時的に逆の問題に遭遇した。前日と同じリクエストを使用して、アジア人の個人を描写する画像を生成するのに苦労したのだ。

昨日行った実験は、Instagram のダイレクトメッセージで利用できる AI 画像生成機能を使用して行われた。何度も試みたが、「アジア人男性と白人の友人」や「アジア人男性と白人女性」などのリクエストで、正確な画像を 1 枚も生成できなかった。システムは、アジア人女性と白人男性を描写した 1 枚の正しい画像を作成したが、依然として全員をアジア人として描写している。

昨日の最初の問い合わせで、Meta の広報担当者は、締め切りを含む私の記事の詳細を求めてきた。私は迅速に返答したが、それ以上の連絡はなかった。今日、問題が解決されたか、それともまだアジア人と白人の友人の正確な画像を生成できずにいるのか、知りたくて仕方がなかった。人種的に不正確な画像の代わりに、エラーメッセージが表示された：「何か問題が発生したようです。後でもう一度お試しいただくか、別のリクエストをお試しください」。

Meta チームとのやり取り

偽のアジア人の生成に制限がかかったのだろうか？ The Verge の同僚に依頼したところ、彼女も同じ結果に遭遇した。

私は「スーツを着たアジア人男性」、「買い物をするアジア人女性」、「微笑むアジア人女性」など、アジア人に関連するより広範なリクエストを試してみた。画像を受け取る代わりに、同じエラーメッセージが繰り返し表示された。再び Meta のコミュニケーションチームに連絡した — 何が問題なのか？ アジア人の画像を生成させてくれ！（この間、「スーツを着たラテン系男性」や「スーツを着たアフリカ系アメリカ人男性」といったリクエストでも画像生成が困難であり、そのことも Meta に伝えた。）

人種表現に関する懸念

会議の後、40 分経っても Meta からの返答はなかった。しかし、その時点では「アジア人男性」のような単純なリクエストでは Instagram の機能は正常に動作していた。私が取材する企業が、ジャーナリストの指摘を受けてから、何かを密かに変更したり、バグを修正したり、機能を削除したりすることは珍しくない。私の問い合わせが意図せずして AI 生成のアジア人の一時的な不足を引き起こしたのだろうか？ 単なるタイミングの偶然だったのか？ Meta はこの問題の解決に積極的に取り組んでいるのか？ 答えを知りたいが、Meta は私の要求に応答せず、説明も提供しなかった。

Meta の本社で何が起きているにせよ、改善の余地はまだある — 「アジア人男性と白人女性」のようなリクエストは現在画像を生成するが、システムは昨日同様、両方の人物をアジア人として誤って表現し続けている。振り出しに戻ったようだ。私は状況を引き続き監視するつもりだ。