- 美国商务部提出了针对人工智能开发商和云服务提供商的新报告要求，以确保网络安全。
- 这些规则将强制要求报告人工智能模型开发、网络安全努力以及红队测试结果，旨在检测诸如协助网络攻击或降低开发大规模杀伤性武器门槛等风险。
观点
此举反映出对人工智能影响的日益担忧以及严格监管的必要性。通过强制要求详细报告，美国政府正在加大力度，以减轻与先进人工智能相关的风险，例如在网络攻击或危险技术中的滥用。这种主动的做法凸显了在促进创新与防范潜在威胁之间取得平衡的努力，旨在确保人工智能开发的安全可控。
——Tacy Ding，BTW 记者
发生了什么
美国商务部于周一宣布了这项针对先进人工智能开发商和云计算提供商的详细报告要求提案，旨在确保这些技术的安全性并能够抵御网络攻击。
该部门的工业与安全局的提案将强制要求就“前沿”人工智能模型和计算集群的开发活动向联邦政府提交报告。
它还将强制要求报告网络安全措施以及所谓红队测试的结果，例如测试危险能力，包括可能协助网络攻击或降低非专家开发化学、生物、辐射或核武器门槛的能力。
外部红队测试在网络安全领域已使用多年，用于识别新出现的风险，该术语源于美国冷战时期的模拟演习，其中敌方被称为“红队”。
延伸阅读：美国与国际合作伙伴共同实施先进技术新管控
为何重要
生成式人工智能能够根据开放式提示生成文本、图像和视频，既令人兴奋又令人担忧。人们担心它可能导致某些工作岗位消失、扰乱选举，并可能超越人类，带来灾难性后果。
商务部表示，根据该提案收集的信息“对于确保这些技术符合严格的安全和可靠性标准、能够抵御网络攻击，并最大程度降低被外国对手或非国家行为者滥用的风险至关重要。”
2023 年 10 月，总统乔·拜登签署了一项行政命令，要求那些对美国国家安全、经济、公共卫生或安全构成风险的人工智能系统开发商，在向公众发布这些系统之前，与美国政府分享安全测试结果。
该规则将引入针对先进人工智能模型和计算集群的报告要求。