• 人们正在使用 AI 音乐生成器创作仇恨歌曲，并发布指南教他人这样做。
  • 借助 AI 音乐生成器创作的仇恨歌曲可能成为仇恨团体和政治战争的有力工具。

我们的观点
尽管仇恨和有害歌曲并非新鲜事物，但易于使用的免费音乐生成工具加速了它们在人群中的传播。
黄奥黛丽 ，BTW 记者

恶意行为者正在滥用生成式 AI 音乐工具来创作传播仇恨言论和宣传的歌曲，他们甚至发布如何操作的指南。

创作仇恨歌曲

据 ActiveFence（一个管理在线平台信任与安全运营的服务机构）称，自三月以来，有关滥用 AI 音乐创作工具编写针对少数群体的攻击性歌曲的讨论在“仇恨言论相关”社区中激增。“随着越来越多的用户学习如何生成这些歌曲并与他人分享，这些趋势正在加剧，”ActiveFence发言人表示。

相关阅读：人工智能音乐疗法改变治疗方式

相关阅读：谷歌与环球音乐合作授权 AI 生成歌曲声音

歌曲的影响

ActiveFence 强调了歌曲的情感影响，使其成为仇恨团体和政治战争的有力工具。他们引用了历史上的例子，如摇滚反共运动。AI 可以通过将叙事转化为朗朗上口的歌曲来增强有害内容的吸引力，从而加强群体团结并震惊外界。该服务敦促音乐平台实施更强的安全措施，如红队测试和更好的审核，以防止 AI 生成的仇恨音乐传播。然而，随着用户找到绕过这些措施的方法，挑战依然存在。联合国也警告说，生成式 AI 可能放大种族主义和仇外内容。