- 人工智能侵权事件日益频繁，美国联邦贸易委员会正考虑修订一项禁止假冒企业或政府机构的现行法规。
- 随着深度伪造生成工具日益精进，我们将看到这些法律经过修订，覆盖更广泛的深度伪造行为，并通过更多国家级法律提案。
法规修订
在深度伪造威胁日益加剧的推动下，联邦贸易委员会正试图修订一项现行法规，该法规禁止冒充企业或政府机构，以覆盖所有消费者。
修订后的规则——取决于最终措辞和 FTC 收到的公众意见——还可能将 GenAI 平台提供其明知或有理由知道被用于通过伪造行为损害消费者的商品或服务的行为定为非法。
“诈骗者正利用人工智能工具以惊人的精度和更大的规模冒充个人，”FTC 主席莉娜·汗在一份新闻稿中表示。“随着语音克隆和其他人工智能驱动的诈骗行为日益猖獗，保护美国人免受伪造诈骗比以往任何时候都更为重要。我们提议的最终冒充规则扩展将实现这一目标，强化 FTC 应对利用 AI 冒充个人的诈骗行为的工具包。”
另请阅读：拜登总统打电话给选民了吗？民众举报称接到谴责新罕布什尔州初选的电话
深受 AI 困扰的生活
不仅是泰勒·斯威夫特这样的名人才需要担忧深度伪造。涉及深度伪造的在线恋爱诈骗正日益增多。
在 YouGov 最近的一项民调中，85%的美国人表示对误导性视频和音频的传播感到非常或有些担忧。美联社-NORC 公共事务研究中心进行的另一项调查发现，近 60%的成年人认为 AI 工具将在 2024 年美国大选周期中加剧虚假和误导性信息的传播。
另请阅读：泰勒·斯威夫特 AI 图像‘令人震惊和恐惧’，萨提亚·纳德拉表示
目前没有联邦法律明确禁止深度伪造。像名人这样的高知名度受害者理论上可以诉诸现有传统的法律救济手段进行反击，包括版权法、肖像权以及侵权法（例如侵犯隐私、故意精神伤害）。然而，通过民事诉讼应对这些零散的法律拼凑既耗时又低效。
在国会没有采取行动的情况下，全美已有 10 个州颁布了将深度伪造行为定为刑事犯罪的法律——尽管多数法律针对的是非自愿色情内容。毫无疑问，随着深度伪造生成工具日益精进，我们将看到这些法律经过修订，覆盖更广泛的深度伪造行为，并通过更多州级法律。（例如，明尼苏达州的法律已经针对政治竞选中使用的深度伪造。）