Google CEO、Gemini のエラーは「全く容認できない」と判断

BTW Media が「Google CEO が Gemini のエラーは「全く容認できない」と発言」をプロファイルしているのは、公開された証拠がそれをインターネットインフラ、ガバナンス、運用上の依存関係、または市場の可視性に結び付けているためです。

• Google CEO のサンダー・ピチャイ氏は、自社の AI「Gemini」が歴史的に不正確な描写を生成していたことを受け、その結果が引き起こした論争を認めた。
• Google は先週、Gemini の画像生成機能を一時停止する措置を取った。
• サンダー・ピチャイ氏は、Gemini AI の精度と公平性の向上に引き続き取り組むと約束した。

Gemini AI が歴史的に不正確な結果で物議を醸す

サンダー・ピチャイ、Google CEOは、自社の AI「Gemini」の論争を呼んだ結果を認め、社内メモで、生成された画像とテキストが「ユーザーを不快にさせ、偏りを示した」と述べた。この認識は、AI モデルが歴史的に不正確な描写を生成したことが判明したことを受けてのものである。具体的には、人種的に多様なナチス時代のドイツ兵、有色人種のアメリカ建国の父たちの肖像、Google 自身の共同創業者たちの誤った描写などが含まれる。ピチャイ氏は状況の深刻さを強調し、この問題に関する CEO としての初の広範なコミュニケーションとなった。

【関連記事】Google の Gemini、来年 Android スマートフォンに搭載予定

Gemini の画像生成一時停止と謝罪

Google は先週、論争を受けて Gemini の画像生成機能を一時的に停止した。この決定は、AI モデルが問題のある結果を出力していたことが公になり、厳しい批判を浴びた後のことだ。同社は謝罪し、Gemini AI が「的外れだった」と認め、問題の解決に尽力すると表明した。謝罪にもかかわらず、Google は問題が完全に解決されたかどうか明言しなかった。画像生成機能を一時的に無効化するという決定は、偏りや不正確な描写の影響を緩和することを目的としている。

ピチャイ CEO の保証と改善への取り組み

Semafor が報じた社内メモの中で、サンダー・ピチャイ CEO は、Google が Gemini AI に関連する問題を是正することに注力していると強調した。ピチャイ氏は、同社が Gemini アプリにおける「問題のあるテキストとビジュアルの応答」に対処するために精力的に取り組んできたことを明らかにした。問題が完全に解決されたとは断言せず、ピチャイ氏は、特に業界の発展のこの初期段階において、AI の不完全性を認めた。

以下は、サンダー・ピチャイ氏が Google の従業員に宛てたメモの全文です。

皆さん、こんにちは。Gemini アプリ（旧称 Bard）における最近の問題について取り上げたいと思います。一部の応答がユーザーを不快にさせ、偏りを示したことは承知しています。明確に言えば、これは全く容認できず、私たちは間違っていました。

私たちのチームは 24 時間体制でこれらの問題の解決に取り組んでいます。すでに広範なクエリにおいて大幅な改善が見られています。特に業界の発展のこの初期段階では、完璧な AI はありませんが、私たちには高い基準が求められていることを認識しており、必要な限り努力を続けます。そして、何が起きたのかを検証し、大規模に問題を修正することを確約します。

世界の情報を整理し、誰もがアクセスできて役立つものにするという私たちの使命は神聖なものです。私たちは常に、製品を通じてユーザーに有用で正確かつ公平な情報を提供することを目指してきました。だからこそ人々は信頼してくれています。これが、新たな AI 製品を含むすべての製品に対する私たちのアプローチでなければなりません。

私たちは、構造的な変更、製品ガイドラインの更新、改善されたローンチプロセス、堅牢な評価とレッドチーミング演習、そして技術的な推奨事項を含む一連の明確なアクションを実施します。これらすべてを検討し、必要な変更を加えます。

ここでの失敗から学ぶ一方で、ここ数週間の AI 分野における製品および技術的な発表を活かさなければなりません。これには、たとえば 100 万トークンのコンテキストウィンドウの画期的な進歩や、好評を博したオープンモデルなど、基盤モデルにおけるいくつかの基礎的な進歩が含まれます。

私たちは、何十億もの人々や企業に使われ、愛される優れた製品を作るために何が必要かを知っています。そして、私たちのインフラと研究の専門知識により、AI の波に乗るための素晴らしい足がかりがあります。最も重要なこと、つまりユーザーの信頼に値する有用な製品を作ることに集中しましょう。