Google の AI Overviews がよく間違える理由

Google の AI Overviews がよく間違える理由は、公開された証拠がインターネットインフラストラクチャ、ガバナンス、運用上の依存関係、または市場の可視性と結びついているため、BTW Media によってプロファイルされています。

• Google の AI Overviews は、ユーザーに信頼できない、場合によっては潜在的に危険な情報を提供しています。
• Google は問題を解決するために技術的改善を施しましたが、AI システムに内在する限界は依然として残っています。
• 同社は今後も改善を続けますが、100％正確になることは決してないため、このテクノロジー大手は露骨または危険なトピックに対して AI Overviews を表示しようとはしていません。

BTW の見解
AI Overviews はユーザーが短時間で回答を得るのに役立ちますが、潜在的な誤りのため完全に信頼することはできません。そのため、利用時には批判的思考を保つことが重要です。
–Audrey Huang、BTW ジャーナリスト

Google の AI Overviews は検索結果を簡素化する一方で、誤情報も生成しています。そのため、同社は技術的改善を行いました。

AI Overviews の仕組み

AI Overviews は、Google の大規模言語モデル（LLM）ファミリーである Gemini の新しい生成 AI モデルを使用しています。このモデルは Google のコアウェブ検索ランキングシステムに統合され、ウェブサイトのインデックスから関連する結果を検索するように設計されています。

関連記事:Elon Musk 氏は AI がすべての仕事を奪うと主張

関連記事:AI フェイクと誤情報が TikTok で若者の有権者に露呈

なぜ誤りが生じるのか？

「大規模言語モデルは、与えられたソースに基づいて流暢な言語を生成しますが、流暢な言語が正しい情報を意味するわけではありません」と、Université de Leyde で自然言語処理を専門とする Suzan Verberne 教授は説明します。トピックがより具体的であるほど、大規模言語モデルの出力に誤情報が含まれるリスクが高まると彼女は強調します：「これは医療分野だけでなく、教育や科学の分野でも問題です」。

問題の解決策

Google は、AI Overviews が特に有用でないクエリに対してトリガー制限を追加し、健康関連のクエリには「トリガー改良」をさらに追加したと発表しました。同社は情報検索プロセスにステップを追加し、リスクの高いクエリを防ぎ、そうした場合にシステムが回答の生成を拒否するように設計できる可能性があると Verberne 氏は述べています。さらに、人間のフィードバックからの強化学習（RLHF）などの手法は、そのフィードバックを LLM のトレーニングに組み込むことで、回答の品質向上に寄与する可能性があります。