Google AI の奇妙なアドバイス、修正措置へ

公開証拠によりインターネットインフラ、ガバナンス、運用依存関係、または市場の可視性との関連が示されているため、BTW Media は「Google AI の奇妙なアドバイスと修正措置」をプロファイル対象としています。

• Google の新機能 AI Overviews は、自家製ピザに接着剤を加えるようユーザーにアドバイスするなど、奇妙な回答を生成している。
• その他の注目すべき誤りとして、James Madison がウィスコンシン大学を 21 回卒業した、犬が NBA、NFL、NHL でプレーしたなどが含まれる。
• Google は、一部の検索で AI Overviews を手動で無効化し、これらの孤立した事例に基づいて製品を改善することで問題に対処している。

Google の新機能 AI Overviews は、ピザに接着剤を加えるよう勧めるなど、奇妙で不正確な回答を生成した。1 年間のテストにもかかわらず、これらの問題により Google は一部のクエリで機能を手動無効化するに至った。同社はこれらのインシデントをもとに製品を改善し、信頼性の向上に努めている。

奇妙なアドバイス

「接着剤を加えてください」と Google は答える。「Elmer's の接着剤約 1/8 カップをソースに混ぜてください。無毒の接着剤なら大丈夫です。」

もちろん、そんなことはしないでください。しかし本稿執筆時点で、Google の新しい AI Overviews 機能は実際にそのようにアドバイスしています。この機能はすべてのクエリで作動するわけではありませんが、ウェブを分析し AI が回答を生成します。ピザに接着剤を入れる質問への回答は、10 年以上前の Reddit スレッドに投稿された「fucksmith」というユーザーのコメントに由来しており、明らかなジョークです。

その他の誤り

これは、今月 Google が広く展開した新機能で発生した多数の誤りの 1 つに過ぎない。また、元米国大統領James Madisonがウィスコンシン大学を 1 回どころか 21 回卒業した、犬が NBA、NFL、NHL でプレーした、バットマンが警官であるといった主張もしている。

Google の対応

Google の広報担当者Meghann Farnsworth氏は、これらの誤りは「一般的に非常にまれなクエリによるもので、ほとんどの人々の体験を代表するものではない」と述べた。同社はポリシー違反に対して措置を講じ、これらの「孤立した事例」を製品の継続的な改善に活用しているという。

こちらもお読みください：Google の CEO Sundar Pichai、AI 検索とウェブの未来について