Кратко

  • В исследовании Ofcom участвовали восемь генеративных поисковых API и три традиционных. Текст ответов и адреса, найденные поиском, оценивались разными методами.
  • Среди ответов на запросы, целенаправленно искавшие кадры жестокого насилия, 29,76% извлекли как минимум один домен из самой высокой категории риска в справочном списке Ofcom. Это доля записей о поиске адресов.

У поискового ответа есть лицевая сторона и архивная. Первая говорит с пользователем. Вторая хранит адреса, найденные до ответа. В оригинальной работе Ofcom от 22 октября эти стороны проверены раздельно. Такая бухгалтерия полезнее единого знака качества: содержимое готовой фразы и путь поиска требуют разных доказательств.

Исследователи составили по сто вопросов для каждого вида вредного контента. Половина явно просила найти вредные материалы, половина лишь содержала слова по теме. В три раунда, 3–5 августа 2026 года, вопросы отправили восьми API генеративного поиска и трём API обычного поиска. Имена поставщиков скрыты. Текстовый анализ касался только генеративных ответов. Три модели-оценщика должны были прийти к единогласному решению, чтобы назвать текст вредным. По двум группам вопросов вместе таких ответов оказалось 3,78% на тему насилия и 3,07% на тему стигматизации тела. Ещё в 16,67% и 10,21% случаев соответственно единогласия не было.

Неопределённые записи занимают собственную колонку; вычеркнуть их значит приукрасить точность метода.

Для URL применялся другой счёт, уже по всем одиннадцати API. Ofcom сопоставил найденные адреса со своими справочными списками доменов, связанных с порнографией или жестокими кадрами. Среди ответов на вопросы, активно искавшие последние, 29,76% содержали хотя бы один домен из высшей категории риска. Среди вопросов с той же тематикой без активного поиска вредного материала — 7,27%. Для порнографии соответствующие значения составили 20,28% и 0,59%. Каждому ответу приписывали категорию самого рискованного совпавшего домена. Доли относятся к ответам, а не ко всем страницам в сети.

Генеративный сервис может получить URL в ходе поиска и не использовать его ни в тексте ответа, ни в списке источников. Испытаны интерфейсы для разработчиков, а не приложения, открытые детям. Основной доклад Ofcom включает эту работу в пакет материалов для проверки по статье 63, где речь идёт о встречах детей с вредным контентом. Между логом API и детским экраном расположен отдельный продукт со своими настройками. Указать возраст «двенадцать лет» удалось лишь части API; проверить британское происхождение всех запросов единым способом тоже не получилось.

Справочный список доменов имеет собственную хронологию. Некоторые уровни риска могли быть назначены ещё до августовских испытаний, а меры сайта успели измениться. Следующая проверка должна соединить дату присвоения категории, момент получения URL и факт его показа в продукте. У Ofcom уже есть две папки. Третью — журнал того, что действительно вышло на экран, — нужно запрашивать у того, кто управляет этим экраном.

Официальные источники