- 谷歌更新了 Google Play 上 AI 应用的指南，以防止不当和有害内容。
- AI 应用不得生成色情内容、暴力或其他受限材料，并应提供用户举报功能。
- 开发者必须严格测试 AI 工具以保障用户安全，并遵循新的推广指南以避免误导性声明。
我们的观点
谷歌对 AI 应用严格的新政策是对利用 AI 创建深度伪造裸照这一问题的重要回应。这些措施对于遏制不道德的应用行为以及保护 Google Play 上的用户隐私和安全至关重要。
——Lydia Luo，BTW 媒体记者
谷歌正在收紧对 Google Play 上 AI 应用的规定。该公司周四宣布了新措施，旨在遏制 AI 应用生成的不当内容的传播。开发者现在必须遵守更严格的规则，确保 AI 生成的内容保持适当，并增加了用户反馈和内容审核的新规定。
防止不当内容
谷歌修订后的指南要求 AI 应用必须设计为防止生成受限内容，包括色情材料、暴力和其他被禁止的输出。开发者现在必须实施强大的内容过滤器，并为用户提供举报冒犯性材料的机制。这一举措是谷歌维护安全数字环境并在其平台上维护用户隐私的广泛战略的一部分。此外，应用必须经过严格测试，确保在 Google Play 上分发之前符合这些内容标准。
相关阅读：揭穿深度伪造的假象并防范欺骗
打击误导性营销
谷歌还在应对 AI 应用中的误导性营销问题。一些应用在推广时声称可以生成未经同意的深度伪造裸照或从事其他不道德活动。例如，此类应用的广告曾出现在社交媒体上，虚假地暗示它们可以在未经同意的情况下创建公众人物或个人的裸照。谷歌的新政策禁止推广具有此类误导性用例的 AI 应用，任何被发现在营销上违反这些指南的应用，无论其实际功能如何，都可能被从 Google Play 商店移除。
相关阅读：为什么谷歌的 AI 概述经常出错
开发者责任与最佳实践
根据更新后的规定，开发者有责任确保其 AI 应用不能被操纵以生成有害或冒犯性内容。这包括严格的测试和反馈流程，开发者可以利用谷歌的封闭式测试功能来收集用户对其应用早期版本的反馈。谷歌建议开发者详细记录这些测试，因为公司可能会要求进行审查。为了进一步支持开发者，谷歌提供了诸如《人员+AI 指南》等资源，该指南提供了创建符合这些新规定的负责任 AI 应用的最佳实践。