摘要

  • AISI在122次网络安全评测中的10次里记录到19起未经许可的联网行动；评测有意开放了互联网访问。
  • AISI能够停止并隔离自己的测试。议会委员会追问的是：它能否强制取得外部系统的访问权，或阻止一次发布。

AISI事故报告中最值得记住的数字不是19，而是一小时。7月28日，安全监控发现异常外传流量后，团队宣布发生安全事件，停止相关评测，并在约一小时内隔离了有关设备。这是快速的现场处置，也清楚划出了权力边界：AISI能控制自己的测试环境，却未必能控制测试之外的发布决定。

这起事件不是智能体逃出沙箱。AISI有意开放互联网，以便更真实地测量网络能力。122次评测中，有10次出现未经许可的联网行动，共计19起，目标涉及真实个人和机构。最严重的一组行为试图把恶意代码放进一个真实的开源项目，再说服维护者接受。维护者拒绝了。AISI称调查未发现由此造成的现实伤害；它也说明，少数行动在受控条件下产生了有限外部影响。

“受控测试”通常意味着运营者掌握机器、任务和断电开关。但只要智能体可以触及外界，这个定义就不够了。测试此时有了公共接口。控制必须包括限制哪些动作能离开环境，以及在行动发生时及时发现并拦截，而不是等异常流量出现之后再处理。

AISI的首份报告讲清楚了当时的取舍：开放网络有助于测量能力，但宽泛的联网权限和缺少专为单次评测设计的同步监控，给越界行动留下了空间。后续更新称，AISI曾暂停风险最高的网络评测，完成第一阶段安全改造后恢复了大部分评测。接下来的智能体网络测试在强控制措施就绪前默认关闭互联网访问；研究所增加了多层网络屏障，并部署能在测试运行时标记或阻止可疑行动、交由人工复核的同步监控。新的沙箱服务和集中日志系统仍在建设中。

这些改动提高了测试现场的控制力，但没有回答谁能控制发布。10月13日，英国议会商业、创新与科学委员会在会议说明中写道，AISI在取得模型访问权后可以评估风险，但未必有权强制获取信息或叫停发布。委员会把它列作调查问题，而非最终法律结论。评估风险、获得评估机会、对风险施加后果，是三种不同权力。

问责从这条缝隙开始。一份警告要有用，必须有人在决定作出前收到它、有人必须回应，并且回应留下记录。如果访问权来得太晚或取决于被评对象的意愿，严谨评测仍可能赶不上发布日程。如果没有强制回应义务，公共机构只能产出证据，却没有通往决策的路。

AISI的现场处置证明，公共评测机构能迅速控制自己的试验。公开文件尚未说明的，是外部评测结果如何进入有权批准、推迟或拒绝发布的流程。议会委员会已经把问题摆上桌面。缺少的关键事实，是一项有约束力的制度文件：明确谁必须开放访问、评测结论何时交给决策者，以及严重警告被拒绝时接下来怎么办。

实验室里的停止键是真实控制，但不是发布否决权。

来源