虚假视频，真实影响：“深度伪造时代”冲击美国和印度选举

《虚假视频，真实影响：“深度伪造时代”冲击美国和印度选举》由 BTW Media 建立档案，因为公开证据表明其与互联网基础设施、治理、运营依赖性或市场可见性相关。

• 深度伪造技术的兴起为政治竞选活动带来了独特的挑战和机遇，在美国和印度产生了不同的影响。
• 尽管深度伪造可以提高互动性并推动筹款活动，但它们也通过虚假信息威胁着民主进程的完整性。

我们的观点
深度伪造技术通过增强互动和筹款能力正在革新政治竞选活动，但也对民主构成了严重威胁。虚假信息和选民操纵的潜在风险巨大，因此政府与科技公司必须合作，共同制定监管措施和检测工具，以维护选举诚信。
—— Zoey Zhu, BTW media

利用人工智能制作超逼真但完全捏造的视频的深度伪造技术，已迅速演变为政治宣传领域的有力工具。最初作为数字世界中的新奇事物出现，深度伪造如今已成为一个重大关切，尤其是在选举背景下。随着现实与虚构之间的界限模糊，深度伪造影响政治话语和左右选民的可能性已变得日益明显。

深度伪造的政治应用

深度伪造，即 AI 操纵的媒体，在政治应用中呈现出复杂的局面，特别是在美国和印度这样人口众多、多元化的国家，其影响可能极其深远。以下概述了这两个国家政治背景下深度伪造的积极和消极方面。

正面应用：在政治领域，深度伪造技术有潜力增强与选民的互动。政客们可以利用深度伪造制作个性化的信息，以直接和亲密的方式接触支持者。这种技术也可以用来重现已故领导人的演讲，让他们的言论与当代听众产生共鸣，从而促进筹款和汇聚对事业的支持。这些应用虽仍处于起步阶段，但预示着一个政治沟通可能更加互动和引人入胜的未来，尽管方式上对传统规范构成了挑战。

负面应用：另一方面，深度伪造已经表现出在政治舞台上肆虐的潜力。它们可以被用来制作误导性视频，扭曲候选人的言论或行动，甚至可能改变选举的走向。例如，深度伪造可以虚假地描绘一位政治人物发表煽动性言论，引发公众愤怒和选民情绪的转变。这些负面应用对民主进程构成重大威胁，因为它们可以被用来大规模传播虚假信息、抹黑对手、操纵公众舆论。

另请阅读：Google 减少搜索结果中深度伪造的曝光

案例研究：美国对比印度

就深度伪造技术在各自政治领域的影响而言，美国和印度呈现出截然不同的场景，这使它们成为比较分析的有力对象。

美国一直处于技术创新的前沿，包括深度伪造技术的发展。它也见证了在政治竞选中使用深度伪造的尝试，以及为打击恶意使用而进行的立法努力。2019 年深度伪造问责法案就是一个很好的例子，它突显了该国针对深度伪造挑战的积极立法回应。此外，美国还出现了利用深度伪造技术制造争议性叙事的情况，例如在竞选广告中使用 AI 生成的政治人物图像。

印度拥有庞大的人口和蓬勃发展的数字环境，为深度伪造技术的应用提供了独特的背景。该国已出现深度伪造被用于政治竞选的情况，包括已故领导人数字肖像被用于政治目的的例子。印度政府已对 AI 生成内容潜在滥用表示担忧，并正在着手建立监管框架。此外，印度的法律体系正在应对深度伪造带来的挑战，尽管缺乏明确禁止深度伪造的法律，但《2000 年信息技术法案》和《1860 年印度刑法典》的部分条款可能适用。

美国和印度之间的对比突显了技术采用的不同阶段、深度伪造技术在政治竞选中多样的应用方式，以及两国采取的独特监管方法。虽然美国已采取立法行动打击深度伪造，但印度仍在制定监管框架以遏制其滥用。两国独特的文化、政治和社会动态为分析深度伪造技术的伦理、法律和社会影响提供了丰富的土壤。

美国：在美国，深度伪造技术主要被用来制造有争议和误导性的内容，旨在抹黑政治对手。2020 年美国总统大选期间，深度伪造视频激增，其中一些针对知名候选人，以在选民中制造混乱和怀疑。美国高度两极化的政治环境使其成为此类操纵策略的沃土，深度伪造可以迅速走红，放大其影响。在美国，深度伪造的使用引发了关于需要更严格监管和更健全的事实核查机制以保护选举完整性的讨论。

印度：相比之下，印度在深度伪造方面面临着一系列不同的挑战。由于人口庞大且多样化，加之许多地区数字素养水平较低，深度伪造可以迅速传播，往往缺乏必要的审查来戳穿它们。在选举期间，深度伪造被用来煽动社群紧张或抹黑政治对手，利用现有的社会分歧。印度选民的庞大规模，加上其政治格局的复杂性，使该国特别容易受到深度伪造破坏潜力的影响。尽管两国都面临重大风险，但印度独特的社会政治环境构成了与美国不同的独特挑战。

知识问答：

关于深度伪造对选举的影响，哪项陈述是正确的？

a. 深度伪造仅用于正面政治竞选。
b. 美国和印度在深度伪造方面面临相同的挑战。
c. 深度伪造既可以吸引选民，也可以误导他们。
d. 深度伪造在所有国家都是非法的。

正确答案位于文章底部。

挑战与风险

“21 世纪 20 年代初可能将被铭记为选举中深度伪造时代的开端。”

布伦南中心选举与政府项目

深度伪造技术在政治竞选中的融入带来了新的挑战范式，尤其是在美国和印度的选举环境中。在美国，生成式 AI 的快速发展已引起立法者的谨慎关注，他们正在努力应对 AI 生成内容对选举完整性的影响。正如布伦南中心近期分析所指出的，“21 世纪 20 年代初可能将被铭记为选举中深度伪造时代的开端”，AI 工具现在能够以惊人的逼真度合成音频和视频，对民主国家构成了特别挑战 131。

在美国，深度伪造因其可能破坏选举完整性而受到关注。美国已出现深度伪造技术被用于制造争议性叙事的情况，例如在竞选广告中使用 AI 生成的政治人物图像。该国也采取了立法行动来打击深度伪造，2019 年深度伪造问责法案是监管这一技术的重要一步。然而，深度伪造生成技术的快速发展仍在对检测和监管构成挑战。

印度人口众多且数字媒体消费不断增长，尤其容易受到深度伪造的影响。该国已出现试图在政治竞选中使用深度伪造技术的情况，引发了对虚假信息和操纵的担忧。印度政府已开始通过考虑监管措施来解决这一问题，尽管法律框架仍在演变之中。在印度选举中使用深度伪造有可能显著影响公众舆论和选举结果，这凸显了有效检测和缓解策略的必要性。

两国与深度伪造相关的挑战和风险包括身份盗窃、计算机欺诈、勒索以及虚假信息传播的可能性。随着深度伪造技术日益精密，区分真实和操纵内容变得困难，导致诸如“冒充者偏见”等认知偏差的增加，即个体因意识到 AI 能力而怀疑多媒体的真实性。这对个人信息隐私和国家安全以及民主进程的完整性构成了重大威胁。

应对这些挑战需要采取包括技术、立法和教育措施在内的多层面方法。开发强大的深度伪造检测方法、实施明确的监管、提高公众对深度伪造技术潜在滥用的认识，是减轻其对选举和社会构成风险的关键步骤。

监管与对策

“我已经见过深度伪造技术的演示，屏幕上看起来像我的人说着我从没说过的话。人们，这是一种奇怪的体验。如果没有标准，这种技术对我们选举、法律体系、民主、证据规则乃至整个社会秩序的影响是可怕而深远的。”

贝拉克·奥巴马，美国第 44 任总统

深度伪造对民主国家构成复杂挑战，需要多方面的监管与对策。以下是对美国和印度等国应对深度伪造对政治进程影响所考虑的及实施的策略概述。

当前法律框架的不足：美国和印度都在努力应对现有法律框架在解决深度伪造挑战方面的不足。在美国，现有的关于诽谤和欺诈的法律并未完全涵盖深度伪造带来的独特问题。在印度，缺乏专门针对数字虚假信息的严格法规，在法律层面留下了显著空白。这种不足突显了需要更新法律，以更有效地应对深度伪造的创作和传播。

国际监管努力：深度伪造技术的全球性要求国际社会在监管努力上进行合作。尽管一些国家已开始推出旨在限制在政治竞选中使用深度伪造的立法，但这些努力仍然支离破碎。国际机构和协议可以在制定标准和推广管理深度伪造风险的最佳实践方面发挥关键作用，确保采取更统一的方法来应对这一全球性问题。

技术解决方案：随着深度伪造威胁的增长，用于对抗它们的技术也在发展。先进的检测工具和算法正在创建中，通过分析视频中的不一致之处，如不自然的面部动作或光影不规则，来识别深度伪造。然而，深度伪造创作者与开发检测工具者之间的“军备竞赛”仍在继续，双方都在不断进化。尽管做出这些努力，但大规模部署这些工具并确保公众能够获取，特别是在技术资源有限地区，仍然是一个重大挑战。

结论

深度伪造技术对政治的影响，特别是在美国和印度，突显了亟需全面策略来减轻其风险。尽管深度伪造有潜力彻底改变政治参与和沟通，但其滥用威胁着民主制度的根基。随着技术的不断发展，我们的法律、伦理和技术应对也必须同步进化。制定有效的监管措施、促进国际合作、推进检测技术是维护选举完整性的关键步骤，确保深度伪造技术被负责任地使用。数字时代民主的未来很可能取决于我们如何有效应对这一挑战。

正确答案是 C，深度伪造既可以吸引选民，也可以误导他们。