• OpenAI 计划为图像和音频添加防篡改水印以确保真实性。
  • OpenAI 与 Google 和 Microsoft 等科技巨头合作，追踪媒体来源。
  • 印度选举期间的虚假视频凸显了全球范围内的内容操纵问题。

OpenAI 推出了一款工具，可以检测由其文本生成图像工具 DALL-E 3（一家微软支持的初创公司）创建的图像。该工具正确识别了由DALL-E 3 在内部测试中约 98%的情况下创建的图像，并且可以处理压缩、裁剪和饱和度变化等常见修改，影响甚微。

增强内容真实性

ChatGPT 的创建者计划引入防篡改水印技术，对照片和音频等内容进行数字标记，旨在提供难以移除的稳健信号。这一举措是 OpenAI 为确保数字媒体真实性和可追溯性而开展的更广泛努力的一部分。

媒体可追溯性的行业合作

OpenAI 已与领先的科技公司，包括 Google、Microsoft 和 Adobe联合，作为专注于建立各种媒体类型溯源标准的行业团体的一部分。这一合作凸显了在数字领域中打击虚假信息和确保透明度的集体承诺。

相关阅读：OpenAI 将检测由 DALL-E3 生成的 AI 图像

选举期间的虚假信息挑战

在印度近期的大选中，出现了虚假视频，内容涉及两名宝莱坞演员批评总理纳伦德拉·莫迪。这一事件突显了虚假信息和被操纵内容的普遍性，尤其是在选举等重大事件期间。

全球关注

AI 生成内容和深度伪造的泛滥是一个日益严重的全球问题，不仅在印度观察到，在美国、巴基斯坦和印度尼西亚等国也是如此。在选举中使用被操纵的媒体，引发了人们对虚假信息对民主进程和公众认知影响的担忧。

相关阅读：OpenAI 在媒体合作中使用 FT 内容训练 AI 模型

促进社会韧性

OpenAI 与 Microsoft 合作，启动了一个 200 万美元的“社会韧性”基金，专门用于支持 AI 教育计划。该基金旨在提高认识、教育公众并增强应对 AI 生成内容和深度伪造所带来的挑战的准备，从而培育一个更具韧性和信息更透明的社会。