• Новые корректировки ранжирования Google существенно снизили видимость интимных изображений без согласия.
  • Обновления продвигают контент не интимного характера и новостные материалы о влиянии дипфейков.

Наше мнение
Проактивные меры Google по снижению видимости интимных изображений без согласия подчёркивают сохраняющуюся проблему управления дипфейк-контентом. Хотя эти корректировки заметно сокращают видимость вредоносного контента, сама проблема напоминает о необходимости дальнейших усилий и технологического развития, чтобы защитить людей от онлайн-эксплуатации.
— Zoey Zhu, журналистка BTW

Что произошло

Google внёс изменения в ранжирование результатов поиска, которые снижают видимость интимных изображений без согласия более чем на 70 % для запросов, связанных с конкретными людьми. Эти изменения последовали за расследованиемWIRED, выяснившим, что руководство Google ранее отклоняло несколько предложенных мер по борьбе с растущей проблемой распространения интимных изображений в интернете без согласия. Корректировки направлены на то, чтобы заменять проблемные результаты поиска новостными статьями и другим контентом не интимного характера. Например, запрос «дипфейк-обнажёнка Jennifer Aniston» теперь выдаёт материалы о влиянии дипфейков на общество и предупреждения о мошенничестве с использованием дипфейков.

Обновления включают три ключевые меры: предотвращать повторное появление дубликатов после запроса на удаление, отфильтровывать интимные изображения из похожих запросов и понижать в выдаче сайты с большим количеством удовлетворённых запросов на удаление. Эти изменения входят в более широкие усилия Google по борьбе с интимными изображениями без согласия (NCEI) и дают дополнительное спокойствие людям, которые опасаются появления такого контента в результатах поиска.

Читайте также:Apple использует чипы Google для обучения моделей ИИ

Читайте также:Британский антимонопольный орган изучает партнёрство Google с Anthropic

Почему это важно

Распространённость ИИ-генераторов изображений упростила создание и распространение интимных изображений без согласия, что порождает серьёзные проблемы конфиденциальности и этики. Новые меры Google — важный шаг в решении этой проблемы: компания проактивно снижает видимость такого контента. Продвигая информативные результаты поиска, не связанные с интимным контентом, Google стремится информировать общественность о влиянии дипфейков и одновременно защищать людей от онлайн-эксплуатации.

Однако эффективность этих мер не безгранична. Бывшие сотрудники и защитники пострадавших утверждают, что Google мог бы делать больше для борьбы с такими изображениями. Несмотря на улучшения, звучат призывы к более строгим предупреждениям и профилактическим мерам, аналогичным тем, что применяются для запросов, связанных с нелегальным контентом. Сохраняющаяся проблема подчёркивает необходимость дальнейших технологических решений и регуляторных усилий для защиты частной жизни и достоинства людей в цифровую эпоху.

Подход Google к работе с интимными изображениями без согласия создаёт прецедент для других технологических компаний, подчёркивая важность проактивных мер и ответственного управления контентом. По мере дальнейшего распространения технологий ИИ растёт и потребность в комплексных стратегиях, позволяющих снизить потенциальный вред и обеспечить более безопасную онлайн-среду.