什么是 AI 深度伪造？

BTW Media 将“AI 深度伪造是什么？”列为观察对象，因公开证据显示其与互联网基础设施、治理、运营依赖或市场可见度相关。

• 深度伪造技术，由生成对抗网络（GAN）驱动，将图像或视频合并到源内容上，创建出高度逼真但可能具有误导性的视听材料。
• 深度伪造技术的积极应用包括通过互动虚拟教师提升教育，以及在电影、纪录片和新闻广播中创造真实的娱乐体验。
• 深度伪造相关风险包括可能传播虚假信息、加剧社会冲突，以及通过允许恶意行为者操纵舆论和冒充个人而对国家安全构成威胁。

目前，深度伪造技术已被应用于影视制作等多种场景。然而，它也引发了人们对其可能被滥用于恶意目的的担忧，例如传播虚假信息和操纵舆论。

深度伪造简介

深度伪造是指使用一种称为生成对抗网络（GAN）的机器学习模型，将图像或视频合并到源图像或视频上。借助神经网络技术进行大规模学习，深度伪造通过结合个人的声音、面部表情和身体动作来合成虚假内容。深度伪造最常见的形式是 AI 换脸，还包括语音合成、面部合成、视频生成等。这项技术能够创建高度逼真且难以区分的视听内容，使得观察者无法用肉眼辨别真伪。

推荐阅读：生成式 AI 与判别式 AI 有何区别？

深度伪造的积极应用

在教育领域，虚拟教师通过互动性和参与感提升数字化学习，而合成历史人物的讲解视频则为学习者创造更沉浸式的体验。

在娱乐领域，深度伪造技术打破了电影和纪录片等艺术创作中的时空界限，以更真实的方式呈现内容。它还能为新闻广播创建虚拟主播，以及高度共情的虚拟偶像。

此外，深度伪造还应用于艺术、社交、虚拟现实、医疗等领域。

推荐阅读：一个 AI 聊天机器人的成本是多少？

深度伪造的相关风险

恶意行为者可能利用深度伪造技术传播虚假视频、加剧社会冲突、煽动暴力和恐怖主义，或干扰竞争性情报机构，对国家和公共安全构成威胁。

视频换脸技术的易得性使得普通个人也能制作被操纵的视频，让恶意个体能够轻易冒充或窃取身份，可能导致诸如报复性色情、商业诽谤、勒索、网络攻击和犯罪活动等行为，对个人和企业造成伤害。

专家认为，深度伪造加深了公众对政府的不信任。随着对深度伪造危险认识的提高，公众可能会对真实视频更加怀疑，混淆真假信息，并对官方澄清持怀疑态度，导致社会焦虑和信任危机。

目前，AI 生成的虚假视听内容能够令人信服地进行欺骗，导致成功的欺骗案例增加。为了应对这一情况，各国正在采取立法和技术措施。然而，随着 AI 技术的进步，深度伪造与反深度伪造措施之间的“猫鼠游戏”将持续下去，需要持续关注和应对。