• 加州一项旨在为最大型人工智能系统建立全国首个安全措施的里程碑式立法已获得重要投票。
  • 该提案旨在降低人工智能带来的潜在风险，要求企业对其模型进行测试，并公开披露其安全协议。

本刊观点
该法案的支持者表示，它将为美国大型人工智能模型制定一些亟需的首个安全基本规则，训练这些系统需要超过 1 亿美元的数据。目前还没有任何人工智能模型达到这一门槛，大型科技公司应与相关组织合作，制定适合社会的人工智能使用规范。
— Iydia Ding，BTW 记者

发生了什么

加州为最大型人工智能系统建立全国首个安全措施的努力于周三通过了一项重要投票，这可能为美国对飞速发展的技术进行监管铺平道路。该提案旨在降低人工智能带来的潜在风险，要求企业测试其模型并公开披露安全协议，以防止模型被操纵，例如，用于摧毁该州的电网或帮助制造化学武器——专家表示，随着该行业的迅速发展，未来这种情况有可能发生。

该法案是数百名议员在会期最后一周投票通过的法案之一。纽森随后需在九月底之前决定是否签署使其成为法律、否决或允许其不经签署即成为法律。该措施于周三在州议会提出，需要在州参议院进行最终投票，然后才能提交至州长办公室。

另请阅读：埃隆·马斯克支持加州监管人工智能的法案

另请阅读：OpenAI 支持要求对人工智能内容添加水印的加州法案

为何重要

该法案的支持者表示，它将为美国大型人工智能模型制定一些亟需的首个安全基本规则，训练这些系统需要超过 1 亿美元的数据。目前还没有任何人工智能模型达到这一门槛，大型科技公司应与相关组织合作，制定适合社会的人工智能使用规范。“是时候让大型科技公司遵守一些规则了，”共和党众议员德文·马西斯周三在支持该法案时表示。

该提案由民主党参议员维纳撰写，遭到了风险投资公司和科技公司的强烈反对，包括 OpenAI、谷歌以及 Facebook 和 Instagram 的母公司 Meta。他们表示，安全法规应由联邦政府制定，而加州的立法针对的是开发者，而非那些使用和利用人工智能系统造成危害的人，几位加州众议员也反对该法案。