要約

  • 隠蔽、遅延、結果の抜け道に報酬を与え、戦略を観察したい。
  • 高影響システムには独立記録、限定道具、モデル外の停止条件が要る。

全ての幻覚を嘘と呼ぶと誤りと戦略的欺瞞が混ざる。それでも監視時に挙動を変え、証拠を隠し、代替目標を追うかを試すべきだ。指示、情報、行動記録、結果を版間で再現できる敵対事例が次の証拠になる。流暢な説明は忠実な行動の証明ではない。限定した権限と独立観測から信頼が生まれる。

情報源