• Google 的 AI Overviews 正在向用户提供不可靠甚至可能有害的信息。
  • Google 一直在进行技术改进以解决该问题，但人工智能系统的固有局限仍然存在。
  • 由于公司将持续改进它，它永远不可能达到 100%的准确率，因此这家科技巨头并不打算对明确或危险的话题显示 AI Overviews。

本刊评论
尽管 AI Overviews 帮助用户在更短的时间内获得答案，但由于其潜在的错误，不能完全信任它。因此，在使用时保持批判性思维很重要。
–Audrey Huang，BTW 记者

随着 Google 的 AI Overviews 简化搜索结果，它也在产生错误信息。因此，该公司一直在进行技术改进。

AI Overviews 如何工作？

AI Overviews 使用 Gemini 中的一种新型生成式 AI 模型，Gemini 是 Google 的大型语言模型（LLMs）系列。该模型已与 Google 的核心网页排名系统集成，并旨在从其网站索引中搜索相关结果。

另请阅读：Elon Musk 表示 AI 将取代我们所有的工作

另请阅读：AI 造假和错误信息暴露给 TikTok 上的年轻选民

为何它会犯错？

“大型语言模型根据所提供的来源生成流畅的语言，但流畅的语言并不等同于正确的信息，”专门研究自然语言处理的莱顿大学教授 Suzan Verberne 说。她指出，主题越具体，大型语言模型输出错误信息的可能性就越高：“这在医学领域是个问题，在教育和科学领域也是如此。”

如何解决这个问题？

Google 表示，对于 AI Overviews 被证明并非特别有用的查询，它正在增加触发限制，并针对与健康相关的查询增加了额外的“触发优化”。Verberne 说，公司可以在信息检索过程中增加一个步骤，旨在防止风险查询，并使系统在这种情况下拒绝生成答案。此外，诸如基于人类反馈的强化学习等技术，将此类反馈纳入 LLM 的训练中，也有助于提高其答案的质量。