• 人々は AI 音楽ジェネレーターを使ってヘイトソングを作成し、その方法を解説したガイドを公開している。
  • AI 音楽ジェネレーターで作られたヘイトソングは、ヘイトグループや政治戦争の強力なツールになる可能性がある。

私たちの見解
憎悪に満ちた有害な歌は新しいものではないが、無料で使いやすい音楽生成ツールによって人々の間での拡散が加速している。
オードリー・ホワン、BTW 記者

悪意ある行為者は、音楽向け生成 AI ツールを悪用して、ヘイトスピーチやプロパガンダを拡散する歌を作成しており、その方法をまとめたガイドまで公開している。

ヘイトソングの作成

「ヘイトスピーチ」に関連するコミュニティでは、3 月以降、AI 音楽作成ツールを悪用して少数派グループを標的にした攻撃的な歌を作る方法についての議論が急増していると、オンラインプラットフォームの信頼と安全性の管理サービスである ActiveFence が発表した。「これらの歌を生成し共有する方法を学ぶユーザーが増えるにつれて、この傾向は加速している」とActiveFenceの広報担当者は述べている。

あわせて読みたい：音楽療法における AI が癒しを変革

あわせて読みたい：Google と Universal Music が AI 生成楽曲の音声ライセンスで提携

歌の影響

ActiveFence は歌の感情的な影響を強調し、それがヘイトグループや政治戦争の強力なツールになると指摘している。彼らは歴史的な例としてRock Against Communismを挙げている。AI は、有害なコンテンツをキャッチーな歌に変えることで、その魅力を高め、グループの結束を強め、外部の人々に衝撃を与えることができる。同サービスは、音楽プラットフォームに対し、AI が生成するヘイト音楽の拡散を防ぐために、レッドチーミングやより優れたモデレーションなどのより厳格な安全対策を実施するよう促している。しかし、ユーザーがこれらの対策を回避する方法を見つけているため、課題は残っている。国連もまた、生成 AI が人種差別的・排外主義的なコンテンツを増幅する可能性があると警告している。