Imran Khan fakes voice, sparks ethical debate: Is it ok for politicians to use AI?

• 尽管身陷囹圄，前巴基斯坦总理的政党利用AI语音克隆技术举行了一场独特的虚拟集会，引发了争议。
• AI生成语音的使用引发了对政治信息信任、潜在虚假信息以及公众对政治事件认知影响的质疑。
• 政府为控制访问而关闭社交媒体，凸显了限制信息流动与保障公民言论自由之间的微妙平衡。

AI回响伊姆兰·汗：社交媒体封锁下的虚拟集会胜利

巴基斯坦前总理伊姆兰·汗自八月起因涉嫌非法出售国家礼品而被监禁，但他找到了一种独特的方式继续其政治竞选。尽管他本人无法到场，汗的政党最近发布了一段四分钟的视频，利用AI语音克隆技术复制了他的声音。该视频在巴基斯坦的一场虚拟集会上播放，配以配音，并附有说明文字：“基于其笔记的伊姆兰·汗的AI语音”。

据报道，汗向巴基斯坦正义运动党提供了一份速记稿，随后由法律团队进行润色，以体现其独特的修辞风格。最终的稿件随后使用ElevenLabs的软件转换为音频，ElevenLabs是一家专注于文本转语音工具和AI语音生成的AI公司。 另见: Ziggo集团任命领导人，备战2027年阿姆斯特丹上市.

汗所在政党的社交媒体负责人吉布兰·伊利亚斯在一个被称为X的平台上分享了该视频。《卫报》指出，汗过去集会的档案素材与ElevenLabs的合成音频引擎相结合，制作了该视频，其中包含了历史剪辑和库存图片。

这场持续五小时的虚拟集会在YouTube上获得了超过50万次观看，并在各大社交媒体平台上吸引了成千上万的观众。为控制虚拟活动的访问，巴基斯坦政府实施限制，在集会当天暂时关闭了Facebook、Instagram、X和YouTube。据互联网追踪机构NetBlocks称，这导致周日晚间巴基斯坦全国范围内这些社交平台的中断。 另见: ECHOES 协会.

尽管使用AI模拟汗的声音引发争议，支持者们在社交媒体上对该视频表示赞扬。这种创新方法使该政党能够与支持者互动，并克服了汗本人无法出席传统政治集会所带来的挑战。 另见: IT部门 - Athlok.

另请阅读：OpenAI发布ChatGPT语音功能，戏谑其CEO风波，同时有信函表达对AGI的担忧

政治中的AI：伊姆兰·汗的虚拟集会引发对信任、虚假信息与言论自由的伦理质疑

在这场开创性的政治展示中使用AI模仿伊姆兰·汗的声音，引发了一场激烈的辩论，深入探讨了政治、技术和社会伦理的复杂网络。虽然伊姆兰·汗的支持者为这种创新方法欢呼，但一个关键问题浮现：AI涉足政治传播是否模糊了真相与虚假之间的微妙界限，可能侵蚀选民对政治信息的信任？ 另见: Alejandro Estua.

这种对AI生成语音的前所未有的使用引发了对政治信息真实性的深刻质疑。支持者可能赞扬这项创新，但更广泛的公众可能对政治信息的可靠性产生怀疑。不受约束的怀疑可能深刻影响健康政治环境的培育。 另见: 亚历杭德罗·曼佐.

除了眼前的担忧，AI在政治场景中的部署还伴随着额外风险。其中最重要的是对公众认知的潜在操纵。如果策略性地使用，AI生成的内容可能扭曲政治人物或事件的形象，用虚假或夸大信息左右公众舆论，危及民主进程。 另见: 亚历杭德罗·埃尔南德斯.

此外，还存在加剧政治分歧的潜在风险。AI，尤其是在用于传播虚假信息时，具备进一步极化社会的能力，使建设性对话和妥协愈发难以实现。这种极化威胁到民主制度良好运作所必需的团结。 另见: 亚历杭德罗·加尔萨.

对媒体信任的侵蚀是另一个危险。随着AI技术在模仿人声和视觉方面的发展，存在对传统媒体来源普遍怀疑的风险。这种怀疑可能被利用来推进个人议程，进一步加剧媒体领域信任的整体侵蚀。 另见: Alejandro Guerrero.

在这种情况下的安全风险十分重大。如果不加监管，AI生成的内容，包括深度伪造视频或语音复制品，可能升级地缘政治紧张局势，可能导致国家间的误解或冲突。这强调了制定全面法规以在国家和全球层面缓解这些风险的必要性。

此外，在政治传播中不受约束地使用AI威胁到透明度和问责制等核心民主价值观。如果选民无法区分真实和被操纵的信息，让政治领导人承担责任就变得困难，这可能侵蚀民主基础。

伊姆兰·汗的语音复制案例要求制定规范政治领域AI道德使用的法规。制定这些法规需要谨慎考虑，以避免对言论自由和政治参与造成负面影响，同时防范操纵、政治分歧、信任侵蚀、安全风险和民主价值观削弱等令人担忧的危险。

总之，在政治传播中部署AI的影响远远超出了真实性和虚假信息的担忧。这些风险涵盖了更广泛的民主、公众信任和全球安全威胁，需要采取全面的方法来规范并以道德方式管理政治领域中AI的使用。