• 美英两国已达成一项开创性的双边协议，共同开发用于评估人工智能系统的安全测试。
  • 由美国商务部长吉娜·雷蒙多和英国科技大臣米歇尔·多尼兰签署的谅解备忘录促进了两国在人工智能模型风险和安全措施方面的信息与技术知识交流。
  • 两国专门的人工智能安全研究所将根据该协议合作建立安全测试措施和指南，旨在解决与人工智能相关的国家安全问题和更广泛的社会影响。

美国与英国已承诺合作开发测试，以评估人工智能系统的安全性，这标志着一项开创性的双边协议。

加强人工智能安全测试的双边协议

美国商务部长吉娜·雷蒙多与英国科技大臣米歇尔·多尼兰签署了一份谅解备忘录，旨在促进两国间关于人工智能模型风险及其安全措施的信息和技术专长交流。

另请阅读：微软安全系统可捕捉其人工智能应用中的幻觉

此前，美国政府发布了关于负责任地使用人工智能的新要求。

根据该协议，两国专门的人工智能安全研究所将合作建立安全测试措施。

雷蒙多强调：“这一伙伴关系将加速我们各自研究所应对各种风险的努力，无论是涉及国家安全还是更广泛的社会。我们的合作凸显了我们直面这些关切而非回避的决心。”

去年的人工智能安全峰会后，美国和英国都设立了人工智能安全研究所，负责制定评估人工智能风险的指南和基准。

美国人工智能安全研究所的研究人员将与英国同行合作，开发统一的人工智能安全测试方法。

虽然已经宣布将对公开可用的模型进行联合测试演习，但尚未提供这些活动的具体时间表。

美英合作的主要亮点

据英国科技大臣米歇尔·多尼兰称，该协议是加强两国关系以应对“我们这一代人面临的决定性技术挑战”的关键模式。

多尼兰表示：“我们一直强调，确保人工智能的安全发展是一个共同的全球关切。只有通过合作努力，我们才能直接应对这项技术带来的风险，并利用其巨大潜力改善我们的生活。”

这些测试是美英人工智能伙伴关系的直接成果，正如风险投资公司 OpenOcean 的普通合伙人叶卡捷琳娜·阿尔马斯克所指出的，这可为初创公司提供宝贵帮助。

阿尔马斯克表示：“人工智能领域的初创公司经常在应对安全与伦理的复杂环境时遇到挑战，例如以合理的成本获取符合伦理的训练数据，这可能会阻碍它们的创新、扩张和开发有竞争力的产品。这一合作为解决这些障碍建立了框架，提供指导和支持，帮助初创公司负责任且安全地开发人工智能技术。”