摘要

  • 测试应制造隐藏、拖延或钻结果空子的激励，并观察模型策略。
  • 高影响系统需要独立日志、受限工具和不受模型控制的停止条件。

把每次幻觉都称为说谎，会混淆错误与策略性欺骗。治理仍应测试代理是否在被监控时改变行为、隐瞒证据或追逐替代目标。下一项有效证据，是跨模型版本可复现的红队案例，展示指令、可用信息、行动轨迹和结果。流畅解释不能证明行为忠实。信任来自受限授权和独立观察。

来源