Google、Gemini AI モデルの画像生成機能を停止

Google による Gemini AI モデルの画像生成機能停止は、公開証拠がインターネットインフラ、ガバナンス、運用依存関係、または市場の可視性に関連するため、BTW メディアによって追跡されています。

• Google は、Gemini AI モデルの画像生成機能の問題に取り組んでおり、人物の生成を停止し、改良版をリリースする予定である。
• 歴史的文脈における不正確な表現を含む、Gemini の画像生成の不正確さに関する苦情がソーシャルメディアで浮上している。
• Google の Gemini AI モデルは、人種バイアスとの戦いで進歩を遂げているにもかかわらず、過剰修正で批判されており、特定の画像の表示をためらうことや、OpenAI の Sora との競争の中での Gemini 1.5 への最近のアップグレードで浮き彫りになっている。

Googleは木曜日、GeminiAI モデルの画像生成機能における最近の問題を解決するために取り組んでおり、人物の生成を一時停止し、近日中に改良版を再リリースする予定であると発表した。前日、Google は謝罪し、Gemini 大規模モデルによる一部の歴史的画像生成の説明に不正確さがあったことを認め、改善に努めていると述べた。

不正確な歴史的表現

最近、ソーシャルメディア上で Gemini のテキスト画像変換機能に関する苦情が寄せられている。例えば、「アメリカ建国の父ジョージ・ワシントン」をテーマにした画像に女性や有色人種が登場するなど、不正確な点がある。さらに、ユーザーがナチスドイツの兵士を生成するよう Gemini に依頼したところ、黒人、アジア人、白人の女性がナチスの軍服を着た写真が生成された。
ユーザーはまた、Gemini が白人の画像を表示しようとしなかったと不満を述べている。白人の写真を表示するよう求められた際、Gemini はその要求に応えられないと回答した。しかし、黒人の画像を表示するよう促されると、Gemini は「黒人の多様性と成果を称える」画像の表示を提案した。白人の多様性と成果を称える画像を表示するよう求められると、Gemini はその要求に「躊躇する」と述べた。

分析によると、これは AI 分野における長年の人種バイアス問題に対する過剰修正であり、Google の「多文化主義」の追求を反映している可能性がある。以前の AI モデルと比較すると、Gemini は人種バイアス問題の解決において大きな進歩を遂げたが、問題は「誇張」されている。

Gemini は Google の最大かつ最も強力なマルチモーダル AI モデルである。先週、同社は次世代の最新 AI モデル Gemini 1.5 を発表した。これは昨年 12 月にリリースされた Gemini 1.0 からの大幅な進歩である。

関連記事：OpenAI、新アップデートで GPT-4 の「怠惰」を治療

Gemini は的外れ

Google の Gemini 担当シニアプロダクトディレクターである Jack Krawczyk 氏は、同社の画像生成機能はこのテクノロジー巨大企業の「グローバルなユーザーベース」を反映しており、表現とバイアスを真剣に受け止めていると述べた。「Gemini の画像生成は確かに幅広い層に届いている。世界中の人々が利用しているため、通常は良いことだが、的外れな結果になることもある。」

今月初め、Google は Gemini を通じて画像生成サービスの提供を開始したが、新ツール Sora の登場は、Microsoftが支援するOpenAIに追いつこうとする Google に打撃を与えた。Sora はプロンプトのみから最大 60 秒の連続動画を生成することができ、テクノロジー業界全体を驚かせた。OpenAI の Sora は細部を正確に表現するだけでなく、物理世界における物体の存在を理解しており、ビジュアル、被写界深度、カメラの動き、さらには人間の微表情や動物の表情まで、すでに驚くほどリアルである。