Google と Stanford の研究者が AI ファクトチェックツールを発表

Google と Stanford の研究者に関するこの公開記録は、記事の証拠、エンティティのコンテキスト、イベントリンク、関係性のコンテキストに基づいています。

Google DeepMind とスタンフォード大学による最近の開発は、Search-Augmented Factuality Evaluator (SAFE) を発表しました。これは、AI チャットボットの長文回答の事実を検証するために設計されたツールです。SAFE は、分割、修正、Google 検索結果との比較を含む多段階のプロセスを使用し、議論のある事実の検証において 76% の精度を達成します。この革新は、AI が生成する回答の精度を向上させるだけでなく、手動のアノテーションよりも 20 倍以上安価であるという経済的利点ももたらします。現在の AI チャットボットがどれほど強力であっても、ユーザーに一見説得力があるが事実に反する回答を提供するという、非常に批判されている行動をとる傾向があります。つまり、AI は時に回答で「脱線」し、「噂を広める」ことさえあります。大規模 AI モデルでこのような行動を防ぐことは容易ではなく、技術的な課題です。しかし、海外メディア Marktechpost によると、Google DeepMind とスタンフォード大学は回避策を見つけたようです。関連記事: OpenAI の GPT ストアは期待に応えられず 関連記事: 米国連邦機関は現在 AI 責任者の設置が義務化 このツールは Search-Augmented Factuality Evaluator (SAFE) に基づいています 研究者たちは、大規模言語モデルに基づく

Search-Augmented Factuality Evaluator (SAFE) を発表しました。これは、チャットボットが生成した長文回答の事実を検証できます。研究結果、実験コード、データセットは公開されており、こちらをクリックしてご覧ください。システムは、正確性と信頼性を検証するために、チャットボットの回答を 4 段階で分析、処理、評価します。回答を個々の要素に分割して検証し、上記の内容を修正し、その後 Google 検索結果と比較します。また、システムは各事実と元の質問との関連性も検証します。研究者たちは性能評価のために LongFact というデータセットを作成しました 性能を評価するために、研究者たちは約 16,000 の事実を含む LongFact と呼ばれるデータセットを作成し、Claude、Gemini、GPT、PaLM-2 の 13 の大規模言語モデルでシステムをテストしました。結果によると、議論のある 100 の事実を対象とした分析では、SAFE の判断精度はさらに詳細な調査の後で 76% に達しました。同時に、このフレームワークは経済的利点も示し、手動のアノテーションよりも 20 倍以上安価です。