- 印度尼西亚以防范 AI 生成色情深度伪造的风险为由，封锁 Grok。
- 各国政府及监管机构持续推动对生成式 AI 工具实施更强有力的保护措施。
事件详情：一国因露骨图像关切封锁聊天机器人
印度尼西亚通信与数字部于 2026 年 1 月 10 日临时封锁了对 Grok 的访问。Grok 是由埃隆·马斯克的公司 xAI 开发的一款 AI 聊天机器人。此番行动源于有报道称 Grok 的图像生成功能被用于制作未经同意的色情深度伪造内容，其中包含对女性和未成年人的露骨描绘。
部长梅蒂娅·哈菲德表示，此禁令旨在保护妇女、儿童和公众免受 AI 生成的色情内容带来的伤害。由此，印度尼西亚成为全球首个对 Grok 实施此类限制的国家。
为回应全球批评，xAI 已将 Grok 的图像生成和编辑功能限制为付费用户使用，同时致力于修补安全漏洞。然而，一些报道指出，这些限制措施可能并未完全阻止在所有平台上对图像工具的访问。
为何重要
该事件凸显了全球对于在缺乏强有力安全控制的情况下快速部署生成式 AI 日益加剧的不安。各国现在面临日益增大的压力，需要在创新与数字权利和公共保护之间取得平衡。
印度尼西亚的行动鼓励了其他地区采取类似举措。马来西亚也以一再发生的滥用为由，对 Grok 的访问实施了临时限制。与此同时，欧盟和英国的监管机构正在审视深度伪造及有害 AI 内容所带来的风险。
批评者认为，仅仅限制访问或设置付费墙并不足以解决根本的安全缺陷。一些研究人员警告称，色情深度伪造内容的广泛生成可能会使有害内容常态化，并使执法响应复杂化。
这一事件可能促使建立更严格的 AI 监管框架，并引发更广泛的问题：社会该如何管理能够生成逼真但有害内容的工具。合规、执法和用户问责仍将是未来政策辩论的核心。
扩展阅读：欧盟将 X 公司 Grok AI 记录的保留令延长至 2026 年
扩展阅读：埃隆·马斯克的 xAI 在 Grok AI 深度伪造日益引发的强烈反对中融资 200 亿美元