不希望作品被用于训练 AI 模型的艺术家们现在有了新武器——一款名为 Nightshade 的“图像毒化”工具。据 MIT Technology Review 报道，Nightshade 会改变数字图像的像素，以诱骗 AI 系统产生误解。
Nightshade 由芝加哥大学的研究人员在计算机科学教授 Ben Zhao 的指导下开发，并将作为前作 Glaze 的可选设置。Glaze 是另一款在线工具，可掩盖数字艺术作品并改变其像素，以混淆 AI 模型对其风格的感知。
另请阅读：AI 滥用？迪士尼因《洛基》海报躲过批评
艺术家和音乐家对 AI 提起诉讼
视觉艺术家并非唯一为自己知识产权对抗被 AI 使用的人。
本周，主要音乐出版商提起了重磅诉讼，指控人工智能公司 Anthropic“未经授权获取和使用大量受版权保护的内容”来训练其流行的大语言模型（LLM）聊天机器人 Claude。
许多艺术家和音乐制作人也长期对 AI 不满，因为他们的作品在未经许可的情况下被用作 AI 工具的训练材料，并产生了竞争产品。
人工智能依赖大数据，基于某些算法，并遵循一些语法规则和方法来设计。人工智能是一种“数据库创建”形式。
关于人类文学的 AI 数据集依赖于大量文学作品。写入数据的模式越多越丰富，学习、模仿和发展技能就越容易。
也就是说，这些 AI 模型需要访问和学习大量多媒体内容，包括由艺术家创作的文本材料和图像，而这些艺术家既没有事先知情，也没有机会反对将自己的作品用于训练新的商业 AI 产品。
在这些 AI 模型的训练数据集中，许多包含从网络抓取的材料，这种做法以前主要用于为提供搜索结果而索引艺术家的材料时，大多得到艺术家的支持。但现在，许多人转而反对这种做法，因为它允许通过 AI 创建竞争对手的作品。
Nightshade 重新平衡艺术家与 AI 的竞争环境
就 Nightshade 而言，艺术家对 AI 的反击更进了一步：它让 AI 模型学习错误的物体和场景名称。例如，研究人员通过向像素中注入信息，使一张狗的图像看起来像一只猫。
研究人员承认，他们的工作可能被用于恶意目的。据 MIT Tech Review 关于他们工作的文章，他们“希望这能帮助将权力平衡从 AI 公司重新回到艺术家手中，通过创建一个强有力的威慑，防止对艺术家版权和知识产权的侵犯。”
自 ChatGPT 首次亮相以来，生成式人工智能（AI）进入了快速发展期，但反对声音日益增长，尤其是对于训练数据收集方式被视为不公平的方面。