• Deepfake 和 AI 是两个不同的概念，但它们之间存在一定联系，因此这两个词经常被混用。Deepfake 可视为生成式 AI 的一种应用与实践。
  • Deepfake 是“深度学习”（deep learning）和“伪造”（fake）的合成词，指的是利用深度学习进行图像合成以创建伪造视频的技术。它也可以指代现实中不存在的人类主体的计算机生成图像。
  • 随着 deepfake 应用技术门槛的降低，以及 deepfake 产品与真实产品越来越相似，一些科技公司已开始开发 deepfake 检测技术，用 AI 来对抗 AI。

Deepfake 指的是利用深度学习进行图像合成以创建伪造视频的技术。Deepfake 的合法性因其用途和司法管辖区而异。

什么是 deepfake 内容？

Deepfake 是“深度学习”和“伪造”的合成词，指的是利用深度学习进行图像合成以创建伪造视频的技术。它也可以指代现实中不存在的人类主体的计算机生成图像。

尽管制造虚假内容的行为并不新鲜，但深度伪造利用了机器学习和 AI 的工具和技术，包括面部识别算法以及人工神经网络，例如变分自编码器（VAE）和生成对抗网络（Gans）。

另请阅读：AI 中的 deepfake 是什么？

因此，deepfake 和 AI 是两个不同的概念，但它们之间存在一定联系，因此这两个词经常被混用。Deepfake 可视为生成式 AI 的一种应用与实践。

Deepfake 内容的法律陷阱

Deepfake 的合法性因其用途和司法管辖区而异。在许多地方，未经同意出于恶意目的（例如诽谤、骚扰或欺诈）创建和分享 deepfake 可能是非法的，并可能面临民事或刑事处罚。

然而，将 deepfake 技术用于模仿、讽刺、艺术表达或其他非恶意目的可能受到言论自由法的保护。在处理 deepfake 技术时，理解并遵守相关法律和道德准则至关重要。

随着技术日益复杂，人们可以轻松地将现有视频中的人物替换为他人的肖像，甚至替换为动物的面孔，或操纵人物的嘴型，而只需一部智能手机和一个移动应用即可。这些伪造的图像和视频看起来足以以假乱真。

Deepfake 因其在制作儿童性虐待材料、名人色情视频、报复性色情、假新闻、恶作剧、欺凌和金融欺诈方面的潜在用途而受到广泛关注。

通过 deepfake 传播虚假信息和仇恨言论可能会破坏民主制度的核心功能和规范，干扰人们参与影响自身的决策以及确定集体议程和决策的能力。

Deepfake 的应用已扩展至声音领域。如今借助 AI 技术，只需捕获您 5 秒钟的声音，就可以模仿您的声音来创建不同的对话。结合 deepfake 图像和声音，人们可以制作从未存在过的视频。

另请阅读：视频：Taylor Swift deepfake 引发 AI 伦理辩论

随着 deepfake 应用技术门槛的降低，以及 deepfake 产品与真实产品越来越相似，一些科技公司已开始开发 deepfake 检测技术，用 AI 来对抗 AI。

一些国家正在考虑立法和监管措施，以应对 deepfake 带来的伦理和法律问题。而图像取证领域也相应开发了检测伪造图像的技术。