• Люди используют ИИ-генераторы музыки для создания песен ненависти и публикуют инструкции, как это делать.
  • Песни ненависти, созданные с помощью ИИ-генераторов музыки, могут стать мощным инструментом для групп ненависти и политической войны.

НАШЕ МНЕНИЕ
Хотя разжигающие ненависть и вредоносные песни не новы, бесплатные и простые в использовании инструменты генерации музыки ускоряют их распространение среди людей.
AudreyHuang, журналистка BTW

Злоумышленники злоупотребляют генеративными музыкальными ИИ-инструментами, создавая песни, распространяющие ненависть и пропаганду, и даже публикуют инструкции о том, как это делать.

Создание песен ненависти

По данным ActiveFence, сервиса по управлениюдовериеми безопасностью на онлайн-платформах, с марта в сообществах, связанных с «языком вражды», наблюдается всплеск обсуждений того, как использовать инструменты ИИ для создания музыки, чтобы сочинять оскорбительные песни, направленные против меньшинств. «Эти тенденции усиливаются по мере того, как всё больше пользователей учатся создавать и распространять такие песни», — заявил представительActiveFence.

Читайте также:ИИ в музыкотерапии меняет подход к лечению

Читайте также:Google и Universal Music объединяются, чтобы лицензировать голоса песен, созданные с помощью ИИ

Влияние песен

В ActiveFence подчёркивают эмоциональное воздействие песен, которое делает их мощным инструментом для групп ненависти и политической войны. Они приводят исторические примеры, такие какRock Against Communism. ИИ может усиливать привлекательность вредоносного контента, превращая нарративы в запоминающиеся песни, укрепляя сплочённость группы и шокируя посторонних. Сервис призывает музыкальные платформы внедрять более строгие меры безопасности, такие как red teaming и более качественная модерация, чтобы предотвратить распространение созданной ИИ музыки ненависти. Однако пока пользователи находят способы обходить эти меры, проблема сохраняется. ООН также предупреждает, что генеративный ИИ может усиливать расистский и ксенофобный контент.