Usuários criam músicas de ódio com geradores de música IA

• Pessoas usam geradores de música com IA para criar músicas de ódio e publicam guias para aprender a fazer isso.
• As músicas de ódio criadas com geradores de música com IA podem se tornar ferramentas poderosas para grupos de ódio e guerra política.

NOSSA OPINIÃO
Embora músicas de ódio e prejudiciais não sejam novas, as ferramentas gratuitas e fáceis de usar de geração musical aceleram sua circulação entre as pessoas.
AudreyHuang, jornalista da BTW

Atores mal-intencionados estão usando indevidamente as ferramentas de IA generativa musical para criar músicas que propagam discurso de ódio e propaganda, e até publicam guias sobre como fazer isso.

Criando músicas de ódio

Houve um pico de discussões nas comunidades relacionadas ao "discurso de ódio" desde março sobre métodos para desviar as ferramentas de criação musical por IA para escrever músicas ofensivas direcionadas a grupos minoritários, de acordo com a ActiveFence, um serviço de gerenciamento deconfiançae segurança em plataformas online. “Essas tendências se intensificam à medida que mais usuários aprendem a gerar essas músicas e compartilhá-las”, disse um porta-voz daActiveFence.

Leia também:IA na musicoterapia transforma a cura

Leia também:Google e Universal Music se associam para licenciar vozes de músicas geradas por IA

Os impactos das músicas

A ActiveFence destaca o impacto emocional das músicas, que as tornam ferramentas poderosas para grupos de ódio e guerra política. Eles citam exemplos históricos comoRock Against Communism. A IA pode aumentar o apelo do conteúdo prejudicial ao transformar narrativas em músicas cativantes, fortalecendo a unidade do grupo e chocando estranhos. O serviço exorta as plataformas musicais a implementar medidas de segurança mais rigorosas, como teste de adversários (red teaming) e melhor moderação, para evitar a propagação de músicas de ódio geradas por IA. No entanto, enquanto os usuários encontram maneiras de contornar essas medidas, o desafio persiste. A ONU também alerta que a IA generativa pode amplificar conteúdos racistas e xenófobos.