• Наблюдательный совет Meta опубликовал решение после рассмотрения созданного ИИ порнографического контента с изображением известных женщин на платформах Meta.
  • Meta обязалась рассмотреть рекомендации совета и внести необходимые изменения, что указывает на готовность реагировать на высказанные опасения по поводу порнографии, созданной ИИ, на своих платформах.

НАШЕ МНЕНИЕ
Наблюдательный совет Meta опубликовал предписание компании и подчеркнул необходимость более четких и полных руководящих принципов в отношении управления порнографией, созданной ИИ. Эта позиция отражает более широкие общественные дебаты об ответственности технологических компаний за защиту пользователей от вредоносного контента.
— Lia XU, журналистка BTW

Что произошло

Наблюдательный совет Meta, независимый орган, финансируемый Meta, призвал к изменениям, чтобы предотвратить распространение такого контента после рассмотрения двух случаев порнографического контента, созданного ИИ, с изображением известных женщин на платформах Meta, Facebook и Instagram.

Они рекомендовали Meta обновить свои правила, включив более широкий спектр методов редактирования, включая генеративный ИИ, чтобы эффективно решать проблему изображений без согласия и защищать людей от негативных последствий технологии дипфейков.

Meta не смогла оперативно рассмотреть сообщение пользователя об изображении, созданном ИИ, с участием индийской женщины, в течение 48 часов. В результате заявка была автоматически закрыта без принятия каких-либо мер. Но в случае с американской знаменитостью системы Meta автоматически удалили изображение.

«Ограничения на такой контент оправданы, — заявил совет, — учитывая серьезность вреда, удаление контента является единственным эффективным способом защитить пострадавших».

Читайте также:Нигерия оштрафовала Meta на 220 миллионов долларов за нарушения в области данных и конфиденциальности

Читайте также:Meta запускает улучшенную версию своей модели ИИ Llama 3

Почему это важно

Наличие четких правил в отношении откровенных изображений реальных людей, созданных ИИ, помогает Meta соблюдать правовые нормы, связанные с онлайн-контентом, и защищает компанию от потенциальных юридических проблем. «Многие жертвы интимных дипфейк-изображений не находятся в центре внимания и вынуждены либо мириться с распространением их изображений без согласия, либо самостоятельно искать и сообщать о каждом случае», — заявил совет.

Meta должна установить руководящие принципы в отношении порнографии, созданной ИИ, и обеспечить целостность своих платформ, таких как Facebook и Instagram, поддерживая безопасную и уважительную онлайн-среду для всех пользователей. Они заявили, что рассмотрят рекомендации совета и предоставят обновленную информацию о внесенных изменениях.

Участие наблюдательного совета обязывает Meta последовательно и прозрачно применять свои политики в отношении контента и гарантирует, что компания берет на себя ответственность за модерацию и удаление вредоносного контента со своих платформ.