摘要

  • 评估应看完成的工作、典型错误和恢复能力，而不是一次令人惊艳的演示。
  • 只有证据、人工复核和回滚在真实条件下有效，权限才应扩大。

人工智能涵盖从数据中推断、分类、生成或提出建议的系统，这个名称本身无法证明部署安全或经济。团队应先明确它辅助哪项决定、错误代价多大、人工在哪一步把关，以及工具能够修改哪些系统。受控试验要记录被接受的结果、纠正次数和事故。真正的问题不是系统看起来是否聪明，而是它能否改善结果，同时不留下无人负责的失效路径。

来源