• 一位巴尔的摩县高中教师出于恶意，利用 AI 散布谣言，而校长则在进行腐败调查。
  • 该教师使用了 AI 语音克隆技术，这种技术正导致犯罪迅速增加。这是因为学习短短几十秒的语音文件就能完美复制某人的声音。

一名利用人工智能生成并散布伪造校长言论的体育老师意外被捕。不过，对他的指控与深度伪造无关，而是妨碍学校管理、报复、跟踪和盗窃等罪名。

散布谣言

该老师制作了一段关于他所在学校校长埃里克·艾斯沃特（Eric Eiswert）的 AI 语音，并在社交媒体上散布。该深度伪造语音特别包含种族主义和反犹太主义内容。语音开头是“忘恩负义的黑人孩子”，提到了某些老师，并说“他们应该被解雇”。

警方在起诉书中写道，该老师生成的 AI 对社区造成了重大负面影响。他解释说，校长不仅被暂时调离学校，还在社交媒体上收到仇恨信息，学校也接到了大量电话。

另请阅读：大家都在用哪款 AI 语音生成器？

关于 AI 深度语音

深度语音是深度学习和语音的结合，这是人工智能的一种学习方法，指 AI 学习并复制特定人声音的技术。要使用深度语音技术，需要准备一个 AI 学习的“样本”。然而，获取样本的方法太简单了。你只需要一段 30 秒的目标人物录音即可。

另请阅读：OpenAI 语音克隆工具只需 15 秒样本就能模仿你的声音

AI 甚至能通过模仿文件中声音的音高和音量来模仿情绪，因此结果非常逼真。
由于 AI 深度语音技术也被广泛用于犯罪，我们还应该警惕深度语音网络钓鱼。