• Новая функция Google AI Overviews выдаёт странные ответы, в том числе советует добавлять клей в домашнюю пиццу.
  • Среди других заметных ошибок — утверждения, что James Madison окончил University of Wisconsin не один, а 21 раз, и что собака играла в главных спортивных лигах.
  • Google решает эти проблемы, вручную отключая AI Overviews для отдельных поисковых запросов и дорабатывая продукт на основе этих единичных случаев.

Новая функция Google AI Overviews выдаёт странные и неточные ответы, например советует добавлять клей в пиццу. Несмотря на год тестирования, из-за этих проблем Google вручную отключает функцию для отдельных запросов. Компания работает над доработкой продукта с учётом этих случаев, чтобы повысить его надёжность.

Странный совет

«Добавьте немного клея», — отвечает Google. «Смешайте примерно 1/8 стакана клея Elmer’s с соусом. Нетоксичный клей подойдёт».

Так что да, не делайте этого. Но на момент написания статьи именно это советует новая функция Google AI Overviews. Функция запускается не при каждом запросе, но когда это происходит, она сканирует интернет и формирует сгенерированный ИИ ответ. Ответ на запрос про клей для пиццы, судя по всему, основан на комментарии пользователя под ником «fucksmith» в ветке Reddit более чем десятилетней давности, и этот пользователь явно шутит.

Другие ошибки

Это лишь одна из многих ошибок, появившихся в новой функции, которую Google широко развернул в этом месяце. Она также утверждает, что бывший президент СШАJames Madisonокончил University of Wisconsin не один, а 21 раз, что собака играла в NBA, NFL и NHL и что Batman — полицейский.

Ответ Google

Представитель GoogleMeghann Farnsworthзаявила, что ошибки возникали при «в целом очень редких запросах и не отражают опыт большинства пользователей». По её словам, компания приняла меры против нарушений своих правил и использует эти «отдельные примеры», чтобы продолжить доработку продукта.

Также читайте:Генеральный директор Google Sundar Pichai об ИИ-поиске и будущем интернета