• Google обновляет правила для ИИ-приложений в Google Play, чтобы предотвратить размещение недопустимого и опасного контента.
  • ИИ-приложения не должны создавать сексуальный контент, сцены насилия или другие запрещённые материалы и обязаны предоставлять пользователям возможность пожаловаться на контент.
  • Разработчики должны тщательно тестировать ИИ-инструменты на предмет безопасности пользователей и соблюдать новые требования к продвижению, чтобы избегать вводящих в заблуждение заявлений.

Наше мнение
Новые строгие правила Google для ИИ-приложений — это важный ответ на злоупотребление ИИ при создании обнажённых дипфейков. Эти меры необходимы, чтобы остановить неэтичные практики приложений и защитить приватность и безопасность пользователей Google Play.
— Lydia Luo, корреспондент BTW

Google ужесточает регулирование для ИИ-приложений, доступных в Google Play. В четверг компания объявила о новых мерах, направленных на ограничение распространения недопустимого контента, создаваемого ИИ-приложениями. Теперь разработчики обязаны соблюдать более строгие правила, гарантирующие, что генерируемый ИИ материал остаётся допустимым; также вводятся новые положения об обратной связи с пользователями и модерации контента.

Предотвращение недопустимого контента

Пересмотренные правила Google требуют, чтобы ИИ-приложения были устроены так, чтобы не допускать генерации запрещённого контента, включая сексуальные материалы, насилие и другие недопустимые результаты. Разработчики теперь обязаны внедрять надёжные контентные фильтры и давать пользователям механизмы для жалоб на оскорбительные материалы. Эта инициатива — часть более широкой стратегии Google по поддержанию безопасной цифровой среды и защите приватности пользователей на платформе. Кроме того, приложения должны проходить тщательное тестирование на соответствие этим стандартам, прежде чем попасть в Google Play.

Читайте также:Разоблачаем иллюзии дипфейков и защищаемся от обмана

Борьба с вводящим в заблуждение маркетингом

Google также берётся за проблемы вводящего в заблуждение маркетинга среди ИИ-приложений. Некоторые приложения продвигались с заявлением о возможности создаватьобнажённые дипфейкибез согласия изображённых людей или заниматься другой неэтичной деятельностью. Например, в соцсетях появлялась реклама таких приложений, ложно утверждавшая, что они могут создавать обнажённые изображения публичных персон или обычных людей без их согласия. Новые правила Google запрещают продвижение ИИ-приложений с такими вводящими в заблуждение сценариями использования, и любое приложение, признанное виновным в нарушении этихмаркетинговых правил, рискует быть удалённым из Google Play Store независимо от его реальных возможностей.

Читайте также:Почему ИИ-обзоры Google часто ошибаются

Ответственность разработчиков и лучшие практики

Согласно обновлённым правилам, разработчики обязаны гарантировать, что их ИИ-приложения нельзя использовать для генерации вредоносного или оскорбительного контента. Это включает тщательные процессы тестирования и сбора обратной связи: разработчики могут использовать функциюзакрытого тестированияGoogle, чтобы получать комментарии пользователей о ранних версиях приложений. Google рекомендует разработчикам подробно документировать такие тесты, поскольку компания может запросить их для проверки. В помощь разработчикам Google публикует ресурсы, в том числе руководство People + AI Guidebook, где описаны лучшие практики создания ответственных ИИ-приложений в соответствии с новыми правилами.