Google Play tightens rules on AI apps amid deepfake nude scandal

• 谷歌更新了Google Play上AI应用的指南，以防止不当和有害内容。
• AI应用不得生成色情内容、暴力或其他受限材料，并应提供用户举报功能。
• 开发者必须严格测试AI工具以保障用户安全，并遵循新的推广指南以避免误导性声明。

我们的观点
谷歌对AI应用严格的新政策是对利用AI创建深度伪造裸照这一问题的重要回应。这些措施对于遏制不道德的应用行为以及保护Google Play上的用户隐私和安全至关重要。
——Lydia Luo，BTW媒体记者 另见: Ziggo集团任命领导人，备战2027年阿姆斯特丹上市.

谷歌正在收紧对Google Play上AI应用的规定。该公司周四宣布了新措施，旨在遏制AI应用生成的不当内容的传播。开发者现在必须遵守更严格的规则，确保AI生成的内容保持适当，并增加了用户反馈和内容审核的新规定。 另见: AKNET 互联网与信息系统有限公司.

防止不当内容

谷歌修订后的指南要求AI应用必须设计为防止生成受限内容，包括色情材料、暴力和其他被禁止的输出。开发者现在必须实施强大的内容过滤器，并为用户提供举报冒犯性材料的机制。这一举措是谷歌维护安全数字环境并在其平台上维护用户隐私的广泛战略的一部分。此外，应用必须经过严格测试，确保在Google Play上分发之前符合这些内容标准。 另见: Azarakhsh Ava-e Ahvaz Co.

相关阅读：揭穿深度伪造的假象并防范欺骗

打击误导性营销

谷歌还在应对AI应用中的误导性营销问题。一些应用在推广时声称可以生成未经同意的深度伪造裸照或从事其他不道德活动。例如，此类应用的广告曾出现在社交媒体上，虚假地暗示它们可以在未经同意的情况下创建公众人物或个人的裸照。谷歌的新政策禁止推广具有此类误导性用例的AI应用，任何被发现在营销上违反这些指南的应用，无论其实际功能如何，都可能被从Google Play商店移除。

相关阅读：为什么谷歌的AI概述经常出错

开发者责任与最佳实践

根据更新后的规定，开发者有责任确保其AI应用不能被操纵以生成有害或冒犯性内容。这包括严格的测试和反馈流程，开发者可以利用谷歌的封闭式测试功能来收集用户对其应用早期版本的反馈。谷歌建议开发者详细记录这些测试，因为公司可能会要求进行审查。为了进一步支持开发者，谷歌提供了诸如《人员+AI指南》等资源，该指南提供了创建符合这些新规定的负责任AI应用的最佳实践。