• Personas están usando generadores de música con IA para crear canciones de odio y publicando guías para enseñar a otros a hacerlo.
  • Las canciones de odio creadas con ayuda de generadores de música con IA pueden convertirse en poderosas herramientas para grupos de odio y guerra política.

NUESTRA OPINIÓN
Aunque las canciones de odio y dañinas no son nuevas, las herramientas gratuitas y fáciles de usar para generar música aceleran su circulación entre las personas.
Audrey Huang, reportera de BTW

Actores maliciosos están usando indebidamente herramientas de IA generativa para música para crear canciones que difunden discursos de odio y propaganda, e incluso publican guías sobre cómo hacerlo.

Creando canciones de odio

Ha habido un aumento en las conversaciones dentro de comunidades "relacionadas con discursos de odio" desde marzo sobre métodos para usar indebidamente herramientas de creación de música con IA para escribir canciones ofensivas dirigidas a grupos minoritarios, según ActiveFence, un servicio para gestionar la confianza y las operaciones de seguridad en plataformas en línea. "Estas son tendencias que se están intensificando a medida que más usuarios aprenden a generar estas canciones y compartirlas con otros", dijo un portavoz de ActiveFence.

Lee también: La IA en la musicoterapia transforma la sanación

Lee también: Google y Universal Music se asocian para licenciar voces de canciones generadas por IA

Los impactos de las canciones

ActiveFence destaca el impacto emocional de las canciones, convirtiéndolas en herramientas poderosas para grupos de odio y guerra política. Citan ejemplos históricos como Rock Against Communism. La IA puede aumentar el atractivo del contenido dañino al transformar narrativas en canciones pegadizas, reforzando la unidad del grupo y sorprendiendo a los externos. El servicio insta a las plataformas de música a implementar medidas de seguridad más estrictas, como red teaming y mejor moderación, para prevenir la difusión de música de odio generada por IA. Sin embargo, a medida que los usuarios encuentran formas de eludir estas medidas, el desafío persiste. La ONU también advierte que la IA generativa podría amplificar el contenido racista y xenófobo.