Google Gemini は公平な AI 画像生成を目指す

「Google Gemini は公平な AI 画像生成を目指す」という対象は、公開証拠がそれをインターネットインフラストラクチャ、ガバナンス、運用依存性、または市場での可視性に結びつけているため、BTW Media によってプロファイルされています。

• Google は、歴史的な不正確さに関するユーザーの苦情を受け、Gemini の人物画像生成機能を停止しました。
• I/O 開発者会議で多くの新機能を発表したにもかかわらず、Google は Gemini の画像生成の問題をまだ修正していません。
• Google は、トレーニングデータセットのバイアスのため、問題解決のバランスを見つけるのに苦労しています。

Google は、AI 画像生成ツール Gemini の修正に苦心しています。これは、2 月にユーザーから歴史的な不正確さや人種的ステレオタイプに関する苦情が出て以来、停止されたままです。迅速な解決が約束されたにもかかわらず、問題は未解決のままであり、AI のトレーニングデータセットのバイアス修正が困難であることを浮き彫りにしています。

停止された Gemini 機能

Google の画像生成 AI Gemini は、ユーザーから歴史的な描写の不正確さや人種的ステレオタイプについて苦情が出た後、2 月から停止されています。人物画像を生成するはずの AI は、時代錯誤でステレオタイプ的な表現を示したと批判されました。

Google の CEO であるサンダー・ピチャイ氏は謝罪し、DeepMind のデミス・ハサビス氏は数週間以内の修正を約束しました。しかし、問題は未解決のままであり、Web およびモバイルの Gemini アプリではこの機能は無効のままです。

関連記事：Google、デスクトップ版 Chrome に AI モデル Gemini Nano を追加

修正の課題

問題の解決が遅れていることは、AI におけるバイアス管理の複雑さを浮き彫りにしています。トレーニングデータセットには、多くの場合、白人の画像が多く含まれ、非白人に対する否定的なステレオタイプを強化しています。

これらのバイアスをハードコーディングによって修正しようとした Google の最初の試みは不器用で、現在同社はバランスの取れた解決策を見つけるのに苦労しています。この根強い問題は、AI のバイアス修正が困難な作業であることを思い起こさせます。

関連記事：Google と HP、3D ビデオ会議プラットフォーム「Project Starline」を発表へ

新機能の発表

画像生成の挫折にもかかわらず、Google は年次開発者会議 I/O で Gemini のその他の機能を発表しています。これには、カスタマイズされたチャットボット、休暇の旅程プランナー、Google Calendar、Keep、YouTube Music との統合が含まれます。しかし、未解決の画像生成問題がこれらの進歩に影を落としており、AI のバイアスに効果的に対処することの重要性を強調しています。