• 联邦当局希望此次和解能遏制利用人工智能生成图像冒充政界人士等欺骗性行为。
  • 一家电信公司已同意支付 100 万美元罚款，因其参与了一个深度伪造机器人，该机器人在新罕布什尔州民主党初选前冒充了 Joe Biden 总统的声音，联邦当局计划于周三宣布。

我们的观点
毫无疑问，此举给 Biden 带来了一定热度，但长期以来，AI 的兴起对大选意味着什么一直不明朗。利用 AI 协助政客进行.选举行为本身无可非议，但滥用 AI 技术终将为未来埋下隐患。相关部门应从此次事件入手，规范 AI 的使用。
—— Iydia Ding，BTW 记者

发生了什么

Lingo Telecom电信公司已同意支付 100 万美元罚款，因其参与了一个深度伪造机器人，该机器人在新罕布什尔州民主党初选前冒充了 Joe Biden 总统的声音，联邦当局计划于周三宣布。该机器人使用 AI 生成的 Biden 声音模拟，告诉新罕布什尔州选民不要在一月的民主党初选中投票。

据 NBC News 首先披露，这通电话由资深政治顾问 Steve Kramer 策划，他当时为竞争对手的竞选团队工作，不过 Kramer 表示，他这样做是为了提高人们对深伪危险性的认识。Kramer 和他当时的雇主、明尼苏达州民主党众议员 Dean Phillips 坚称，竞选团队中没有人指导 Kramer 或知晓他的行为。

Kramer 还面临 FCC 的另外 600 万美元罚款，以及在新罕布什尔州被控 26 项选民恐吓和冒充官员的刑事指控。他目前处于保释状态。

另请阅读：Biden 总统是否给选民打了电话？人们报告称电话谴责新罕布什尔州初选

另请阅读：Congo Telecom 对警校学员进行网络安全实践教育

为何重要

Lingo Telecom，一家通过“伪装”电话号码分发 AI 生成自动呼叫的语音服务提供商，将支付一笔七位数的罚款，并同意接受更严格的监督协议，联邦当局称这是首次针对恶意深伪或 AI 驱动冒充他人的执法行动。

“选民恐吓，无论是通过面对面的方式，还是通过深伪自动电话、网络虚假信息活动或其他 AI 驱动的手段实施，都可能真正阻碍选民在我们民主制度中发声。” 美国司法部民权司司长 Kristen Clarke 在一份声明中说道。

Biden 的机器人是深伪技术在美国国家政治中的首次应用，因此当局表示，他们迅速而积极地采取行动，以阻止政治深伪技术的发展，这种技术在其他许多国家已日益猖獗。

通过对 Lingo Telecom 在传输带有 AI 生成消息的伪装自动电话中所扮演的角色追究责任，FCC 发出了一个强烈的信号，即它不会容忍选举干预和伪装技术。” 新罕布什尔州总检察长 John Formella 在一份声明中说道。