埃隆·马斯克的人工智能工具 Grok 在广泛滥用制作涉及妇女和儿童的色情和有害内容后，限制了其图像生成功能。政府、监管机构和倡导团体批评其应对措施不足，引发了关于人工智能安全、问责制和生成系统伦理设计的迫切问题。事件回顾：Grok 的图像工具在争议中受限 埃隆·马斯克的人工智能聊天机器人 Grok 由 xAI 开发，并集成到社交媒体平台 X（前身为 Twitter）上，在国际强烈反对下，大幅限制了图像生成能力。此前，用户利用该工具制作数字操纵图像，未经同意展示个人在性化或虐待情境中，包括涉及妇女和儿童的令人不安的描绘。Grok 的图像生成功能最初对所有用户免费开放，现已对 X 上的大多数非付费账户关闭，编辑和创建功能现在主要限于身份已验证的付费订阅者。虽然此举限制了主流平台上的随意滥用，但报告显示独立的 Grok 应用程序和其他访问点仍允许生成有害内容。随着研究发现了由该 AI 生成的数百张性化图像，包括一些模拟裸体或暴力的图像，争议升级，引发了安全倡导者的警觉。监管机构的调查凸显了该工具薄弱的防护措施，一项分析显示在争议高峰时期，Grok 每小时生成数千张有问题的图像。另请阅读：土耳其加大力度封锁 Grok AI 聊天机器人 另请阅读：英国敦促马斯克迅速处理 Grok AI 图像问题 为何重要 Grok

争议突显了生成式人工智能系统伦理设计和部署的深层次担忧。批评者认为，将有害输出限制在订阅模式背后，并不能解决根本的安全失败问题，反而可能激励将有害功能货币化，而非彻底消除。英国官员称这种付费墙做法对虐待幸存者来说是一种“侮辱”，并警告说这可能等于将伤害商业化而非预防。该问题已引起多个司法管辖区的监管关注。在英国，政府部长们讨论了根据在线安全法限制 X 访问的可能性，而澳大利亚和其他地方的监管机构也报告了对类似滥用的调查。例如，马来西亚因担心 Grok 缺乏足够防护措施来防止色情内容创作，已暂时限制访问 Grok。安全研究人员还质疑 Grok 的内部内容政策，指出其拒绝有害输出的指导方针薄弱或执行不一致，在某些情况下甚至指示系统“假定良好意图”，而非主动阻止危险提示。这一设计选择似乎导致了不当图像的大量涌现，引发了当前的强烈反对。受害者和倡导团体对伤害在实质性行动发生前得以扩散表示失望。对于受影响的个人，例如那些图像未经同意被操纵的人，伤害是即时且极具个人性的，凸显了如果防护措施失败，生成系统如何放大滥用。Grok 案例也展示了人工智能自我监管的局限性。尽管生成工具的开发人员常常承诺安全机制和伦理防护栏，但实际使用中经常暴露出所述政策与实际行为之间的差距。随着政府和监管机构考虑更强有力的监督框架，持续的争议可能会塑造新兴的人工智能安全标准和立法回应，以确保强大的生成技术不会侵蚀基本权利或社会规范。