• OpenAI 正在推出一款工具，能够识别由其 DALL-E 3 文本到图像生成器创建的图像，内部测试显示，即使在常见的修改（如压缩或裁剪）后，准确率仍达到 98%。
  • 除了图像检测外，OpenAI 还计划实施防篡改水印技术，将信号嵌入数字内容中，使其更难被篡改或移除。
  • OpenAI 正与微软、谷歌和 Adobe 合作，制定追踪 AI 生成媒体来源的标准，旨在应对 AI 对全球选举影响的担忧。

OpenAI正在开发一种检测 AI 生成图像的工具，以应对今年 AI 生成内容对全球选举影响的担忧。

新工具可识别 DALL-E3 创建的图像

OpenAI 即将推出一款能够识别由其文本到图像生成器DALL-E 3生成的图像的工具。这家由微软支持的初创公司于周二宣布了这一进展。内部测试表明，该工具能在大约 98%的情况下准确识别 DALL-E 3 生成的图像，即使经过压缩、裁剪和饱和度调整等常见修改，影响也微乎其微。

另请阅读：Opera 的 AI 助手现可在 Android 上总结网页内容

除了图像检测外，OpenAI 还打算实施防篡改水印技术。该功能将在照片或音频等数字内容中嵌入信号，使其难以被移除。作为这些举措的一部分，OpenAI 已与包括谷歌、微软和Adobe在内的行业组织联手，旨在制定追溯各种媒体类型来源的标准。

另请阅读：Fei Fei Li 是谁？AI 先驱刚创办了一家“空间智能”初创公司

AI 生成内容对全球选举具有潜在影响

近期事件引发了人们对 AI 生成内容对今年全球选举影响的日益担忧。4 月，在印度大选期间，两部宝莱坞演员批评总理纳伦德拉·莫迪的虚假视频在网上疯传。AI 生成内容和深度伪造的泛滥不仅在印度，而且在美国、巴基斯坦和印度尼西亚等国的选举中也日益普遍。

为应对这些挑战，OpenAI 宣布与微软合作，启动了一项 200 万美元的“社会韧性”基金，旨在支持 AI 教育计划。