• Des personnes utilisent des générateurs de musique IA pour créer des chansons haineuses et publient des guides pour apprendre à le faire.
  • Les chansons haineuses créées à l'aide de générateurs de musique IA pourraient devenir de puissants outils pour les groupes haineux et la guerre politique.

NOTRE AVIS
Bien que les chansons haineuses et nuisibles ne soient pas nouvelles, les outils gratuits et faciles à utiliser de génération musicale accélèrent leur circulation parmi les gens.
Audrey Huang, journaliste BTW

Des acteurs malveillants utilisent à mauvais escient les outils d'IA générative musicale pour créer des chansons qui propagent des discours de haine et de la propagande, et ils publient même des guides sur la manière de le faire.

Créer des chansons haineuses

Il y a eu un pic de discussions au sein des communautés liées aux "discours de haine" depuis mars sur les méthodes pour détourner les outils de création musicale par IA afin d'écrire des chansons offensantes ciblant des groupes minoritaires, selon ActiveFence, un service de gestion de la confiance et de la sécurité sur les plateformes en ligne. « Ces tendances s'intensifient à mesure que davantage d'utilisateurs apprennent à générer ces chansons et à les partager », a déclaré un porte-parole d'ActiveFence.

Lire aussi: L'IA en musicothérapie transforme la guérison

Lire aussi: Google et Universal Music s'associent pour licencier des voix de chansons générées par l'IA

Les impacts des chansons

ActiveFence souligne l'impact émotionnel des chansons, qui en font des outils puissants pour les groupes haineux et la guerre politique. Ils citent des exemples historiques comme Rock Against Communism. L'IA peut renforcer l'attrait du contenu nuisible en transformant les récits en chansons accrocheuses, renforçant l'unité du groupe et choquant les étrangers. Le service exhorte les plateformes musicales à mettre en œuvre des mesures de sécurité plus strictes, comme le red teaming et une meilleure modération, pour empêcher la propagation de musique haineuse générée par l'IA. Cependant, alors que les utilisateurs trouvent des moyens de contourner ces mesures, le défi persiste. L'ONU prévient également que l'IA générative pourrait amplifier les contenus racistes et xénophobes.