• AI Overviews от Google предоставляют пользователям ненадёжную и даже потенциально опасную информацию.
  • Google внесла технические улучшения для решения проблемы, однако ограничения, присущие системам ИИ, сохраняются.
  • Компания продолжит совершенствовать эту функцию, но она никогда не станет точной на 100 %, поэтому технологический гигант не стремится показывать AI Overviews по откровенным или опасным темам.

НАШЕ МНЕНИЕ
Хотя AI Overviews помогают пользователям быстрее получить ответ, полностью доверять им нельзя из-за возможных ошибок. Поэтому при их использовании важно сохранять критическое мышление.
— Audrey Huang, журналистка BTW

AI Overviews от Google упрощают результаты поиска, но вместе с тем порождают дезинформацию. Поэтому компания внесла технические улучшения.

Как работают AI Overviews?

AI Overviews используют новую генеративную ИИ-модель Gemini — семействобольших языковых моделей(LLM) от Google. Модель интегрирована в базовые системы ранжирования веб-страниц Google и предназначена для поиска релевантных результатов в его индексе сайтов.

Читайте также:Elon Musk утверждает, что ИИ заменит все наши рабочие места

Читайте также:Фейки и дезинформация, создаваемые ИИ, с которыми сталкиваются молодые избиратели в TikTok

Почему возникают ошибки?

«Большая языковая модель генерирует беглый текст на основе предоставленных источников, но беглость языка не означает точность информации», — объясняет Suzan Verberne, профессор Université de Leyde, специализирующаяся наобработке естественного языка. Чем специфичнее тема, тем выше риск дезинформации в выводе большой языковой модели, подчёркивает она: «Это проблема в медицине, а также в образовании и науке».

Как решить проблему?

Google заявила, что добавляет ограничения на показ для запросов, где AI Overviews не оказались особенно полезными, а также внедрила дополнительные «уточнения срабатывания» для запросов, связанных со здоровьем. Компания могла бы добавить в процесс поиска информации этап, который не допускает рискованного запроса и заставляет систему отказываться от генерации ответа в таких случаях, отмечает госпожа Verberne. Кроме того, такие методы, как обучение с подкреплением на основе обратной связи от людей, когда эта обратная связь учитывается при обучении LLM, также могут повысить качество ответов.