Fake videos, real impact: The ‘deepfake era’ hits US and Indian elections

• 深伪技术的兴起在政治竞选中带来了独特的挑战和机遇，在美国和印度产生了不同的影响。
• 虽然深伪技术可以提高参与度并推动筹款，但它们也通过虚假信息威胁民主进程的完整性。

我们的观点
深伪技术通过增强参与度和筹款能力正在彻底改变政治竞选，但这也给民主带来了严重风险。虚假信息和操纵选民的可能性巨大，因此政府和科技公司必须合作制定法规和检测工具，以维护选举完整性。
— Zoey Zhu，BTW媒体 另见: AfriNIC会员名册神秘消失.

深伪技术利用人工智能生成超逼真但完全伪造的视频，已迅速演变为政治宣传领域的强大工具。深伪最初作为数字世界的新奇事物出现，后来已成为一个重大关切，尤其是在选举背景下。随着现实与虚构之间的界限模糊，深伪影响政治话语和左右选民的潜力已变得惊人地明显。 另见: AfriNIC 消失的成员登记册.

深伪技术的政治应用

深伪，即人工智能操控的媒体，在政治应用中呈现复杂景象，尤其是在美国和印度等国家，由于人口众多且多样化，影响可能深远。以下概述重点关注深伪技术在这两个国家政治背景下的积极和消极方面。 另见: 亚历杭德罗·费尔南德斯.

积极应用：在政治领域，深伪技术有潜力增强与选民的互动。政治家可以使用深伪创建个性化信息，以感觉直接和亲密的方式接触支持者。该技术还可用于复兴过去领导人的演讲，使他们的言论与当代受众产生共鸣，从而促进筹款活动并凝聚对事业的支持。这些应用虽然仍处于萌芽阶段，但暗示着一个政治沟通可能更加互动和吸引人的未来，尽管是以挑战传统规范的方式。 另见: 阿尔多·加西亚.

消极应用：另一方面，深伪已经显示出在政治领域造成严重破坏的潜力。它们可用于制作误导性视频，歪曲候选人的言论或行为，可能改变选举进程。例如，深伪可能虚假描绘一位政治人物发表煽动性言论，导致公众愤怒和选民情感转变。这些消极应用对民主进程构成重大威胁，因为它们可被用于大规模传播虚假信息、抹黑对手和操纵舆论。 另见: Alcymer Vieira.

另请阅读：谷歌减少搜索结果中的深伪曝光

案例研究：美国对比印度

美国和印度在深伪技术对其各自政治领域的影响方面呈现出独特的情景，使它们成为比较分析的引人注目的对象。 另见: 阿尔西德斯·克雷莫内齐.

美国一直处于技术创新的前沿，包括深伪技术的发展。该国也目睹了在政治竞选中使用深伪的尝试，以及打击其恶意使用的立法努力。2019年《深伪问责法案》就是一个例子，它突显了该国对深伪挑战的积极立法回应。此外，美国还出现了深伪技术被用于制造争议叙事的情况，例如在竞选广告中使用人工智能生成的政治人物图像。

印度人口众多，数字环境蓬勃发展，为深伪技术的应用提供了独特的背景。该国已出现深伪用于政治竞选的情况，包括将已故领导人的数字肖像用于政治目的。印度政府对人工智能生成内容的潜在滥用表示担忧，并正朝着建立监管框架的方向迈进。此外，印度的法律体系正在努力应对深伪带来的挑战，正如缺乏明确禁止深伪的法律所证明的那样，但2000年《信息技术法》和1860年《印度刑法典》的部分条款可能适用。 另见: 阿尔贝托·安纳亚.

美国和印度之间的比较凸显了技术采用的不同阶段、深伪技术在政治竞选中的多样化应用，以及这两个国家采取的截然不同的监管方法。美国已采取立法行动打击深伪，而印度正在制定监管框架以遏制其滥用。两国独特的文化、政治和社会动态为分析深伪技术的伦理、法律和社会影响提供了丰富的土壤。 另见: 阿尔伯特·基斯.

美国：在美国，深伪技术主要用于制造旨在抹黑政治对手的有争议和误导性内容。2020年美国总统大选期间，深伪视频激增，其中一些针对知名候选人，在选民中制造混乱和怀疑。美国高度极化的政治环境为这种操纵策略提供了肥沃的土壤，深伪可以迅速传播，放大其影响。在美国，深伪的使用引发了关于是否需要更严格的法规和更强有力的事实核查机制以保护选举完整性的辩论。

印度：相比之下，印度在深伪方面面临一系列不同的挑战。人口庞大且多样化，加上许多地区数字文盲率高，深伪可以迅速传播，往往缺乏必要的审查来揭穿它们。在选举期间，深伪被用来煽动社区紧张局势或抹黑政治对手，利用现有的社会分歧。印度选民规模之大，加上其政治格局的复杂性，使该国特别容易受到深伪破坏潜力的影响。虽然两国都面临重大风险，但印度独特的社会政治环境构成了与美国不同的独特挑战。

小测验：

关于深伪对选举影响的说法，哪一项是正确的？

a. 深伪仅用于积极的政治竞选活动。
b. 美国和印度在深伪方面面临相同的挑战。
c. 深伪既可以吸引选民，也可以误导他们。
d. 深伪在所有国家都是非法的。

正确答案在文章底部。

挑战与风险

“2020年代初期可能将被铭记为选举中深伪时代的开端。”

布伦南中心选举与政府项目

深伪技术融入政治竞选带来了新的挑战范式，尤其是在美国和印度的选举格局中。在美国，生成式人工智能的快速发展已引起立法者的谨慎关注，他们正在努力应对人工智能生成内容对选举完整性的影响。正如布伦南中心最近的一份分析所指出的，“2020年代初期可能将被铭记为选举中深伪时代的开端”，其中人工智能工具现在可以以惊人的真实感合成音频和视频，对民主国家构成特别挑战131。

在美国，深伪因其可能破坏选举完整性而一直是一个令人关切的话题。美国已出现深伪技术被用于制造争议叙事的情况，例如在竞选广告中使用人工智能生成的政治人物图像。该国还采取了立法行动打击深伪，其中2019年《深伪问责法案》是朝着监管该技术迈出的重要一步。然而，深伪生成技术的快速发展继续给检测和监管带来挑战。

印度人口众多，数字媒体消费不断增长，特别容易受到深伪影响。该国已目睹在政治竞选中使用深伪技术的尝试，引发了人们对虚假信息和操纵的担忧。印度政府已开始通过考虑监管措施来解决这一问题，尽管法律框架仍在演变。在印度选举中使用深伪有可能显著影响公众舆论和选举结果，这强调了需要有效的检测和缓解策略。

两国与深伪相关的挑战和风险包括身份盗窃、计算机欺诈、勒索和虚假信息传播的可能性。深伪技术的日益复杂使得区分真实内容与被操纵内容变得困难，导致诸如“冒名顶替偏差”等认知偏差的上升，即个体由于意识到人工智能的能力而怀疑多媒体的真实性。这对个人信息隐私和国家安全以及民主进程的完整性构成重大威胁。

应对这些挑战需要采取包括技术、立法和教育措施在内的多方面方法。开发强大的深伪检测方法、实施明确的法规以及提高公众对深伪技术潜在滥用的认识，是减轻它们对选举和整个社会构成的风险的关键步骤。

监管与对策

“我已经见过深伪技术的演示，屏幕上看起来像我的人说着我从未说过的话。各位，这是一种奇特的经历。没有一些标准，这项技术对我们选举、法律体系、民主、证据规则乃至整个社会秩序的影响将是令人恐惧且深远的。”

巴拉克·奥巴马，美国第44任总统

深伪给民主国家带来复杂挑战，需要采取多方面监管和对策。以下概述了正在考虑和实施的策略，以应对深伪对政治进程的影响，特别是在美国和印度背景下。

现行法律框架的不足：美国和印度都在努力应对现行法律框架的不足，以处理深伪带来的挑战。在美国，现有的诽谤和欺诈相关法律并未完全涵盖深伪带来的独特问题。在印度，缺乏专门针对数字虚假信息的严格法规，在法律格局中留下了一个重大缺口。这种不足突显了需要更新法律，以更有效地处理深伪的创建和传播。

国际监管努力：深伪技术的全球性要求国际监管合作。虽然一些国家已开始出台旨在遏制深伪在政治竞选中使用的立法，但这些努力仍然零散。国际机构和协定可以在制定标准和推广最佳实践以管理深伪相关风险方面发挥关键作用，确保以更统一的方法应对这一全球性问题。

技术解决方案：随着深伪威胁的增长，打击它们的技术也在发展。先进的检测工具和算法正在被开发，通过分析视频中的不一致之处（如不自然的面部动作或光影不规则）来识别深伪。然而，深伪造假者和开发检测工具者之间的军备竞赛仍在继续，双方都在不断发展。尽管有这些努力，在大规模部署这些工具并确保公众能够使用方面仍存在重大挑战，尤其是在技术资源有限的地区。

结论

深伪技术对政治的影响，尤其是在美国和印度，突显了迫切需要全面策略来减轻其风险。尽管深伪有潜力彻底改变政治参与和沟通，但其滥用威胁到民主制度的根基。随着技术的不断发展，我们的法律、伦理和技术应对也必须跟上。制定有效的监管措施、促进国际合作以及推进检测技术，是维护选举完整性和确保深伪技术得到负责任使用的关键步骤。数字时代民主的未来很可能取决于我们能否有效应对这一挑战。

正确答案是C，深伪既可以吸引选民，也可以误导他们。