摘要

  • draft-mo-cats-agent-selection-mapping-00 要求先用能力、地域、租户、内存、上下文窗口和预算等硬条件排除不合格节点,再对剩余候选的转发、计算与存储资源进行排序。
  • “状态在这里”只是一份可复用证据,不是永久占有会话的权力;选址记录也只解释为何作出决定,不能证明状态已经迁移、步骤已经执行或结果已经有用。

一次暂停最容易暴露长会话与普通请求之间的区别。普通请求离开之后,调度器可以把下一次到达视为新工作。智能体却可能带着数万 token 的上下文、检索材料、工具结果、计划草稿和长期记忆继续前行。它表面上只是开始“下一步”,实际上继承了前面几十步形成的工作集。

9 月 30 日发布的 draft-mo-cats-agent-selection-mapping-00 正面处理了这个问题。它是一份拟为 Informational 的个人 Internet-Draft,在 CATS 邮件列表讨论;不是 RFC,不是工作组采用稿,也不是已经部署的协议。草案明确不新增功能组件,不定义编码、传输或消息格式。它提供的是一张决策地图:现有 CATS 组件若要为智能体会话选址,至少需要看见哪些事实,以及何时可以据此行动。

草案先把智能体服务概括为四个属性:周期长、有状态、以离散步骤推进、资源消耗呈重尾分布。四者一起否定了“实时指标一变就搬一次”的直觉。模型加载和状态迁移可能耗时数秒到数分钟;一步路由决策却能在毫秒尺度变化。若调度器追逐每次指标波动,会话可能还没有收回迁移成本就再次移动。

关键设计是三层输入。第一层是下一步骤的描述符:所需能力、工作集、允许的缓冲或降级、地域与治理限制、剩余预算、尾部目标和数据新鲜度。第二层是候选节点及其路径的资源视图,分为转发、计算、存储。第三层是选择上下文:当前处于会话、轮次还是步骤边界,已有承诺持续多久,剩余视野多长,改善达到什么幅度才允许换节点。

这里最重要的顺序是先过滤、后排序。上下文窗口不足,不会因为网络近而变得足够。某份记忆不得离开本地司法辖区,不会因为远端 GPU 空闲而突然可迁移。对状态是否存在没有答案,也不能被解释成“也许存在,所以先按零成本计算”。草案要求缺失、过期或来源不明的值继续保持 unknown;依赖它的硬约束视为未满足。

这与 BTW 已报道的 CATS 归一化分数问题相邻却不同。旧问题是两个“8 分”可能来自不同的尺。新问题更早发生:有些事实根本不该被压进一把尺。只有通过硬约束的候选,才有资格比较分数。

存储维度进一步打破“会话状态”这个模糊名词。模型侧上下文很大,但可重新预填;检索材料可能容易再取;工具结果很小,却可能因工具已经改变外部世界而无法重放;计划与草稿不大,重建它们却需要重跑此前步骤;长期记忆可能只读,但受到最严格的位置限制。

因此,每个工作集元素都需要分别记录存在性、驻留层级、大小、年龄、保留时间、取回成本、重算成本和治理约束。尤其是工具结果:当操作不可幂等时,“这个结果还在不在”会从偏好升级成硬条件。把它和可随时重新检索的网页段落混成一个缓存命中率,会制造错误迁移。

三类成本的时间尺度也不同。迁移只在换节点时一次性支付;存储按元素与步骤计算;计算按步骤支付。草案用一个说明性比较,取“传输时间”和“重算时间”中的较小者作为缺失状态的成本。数字不是基准,公式也不是协议;价值在于迫使系统把单位、来源和替代方案写清楚。

这使状态亲和性回到正确位置。持有完整工作集的节点当然具有优势,但没有永久留住会话的权利。如果传输只需三秒而重算要两分钟,且后续几十步能收回成本,移动可能合理。反过来,如果新节点的空闲容量只能为当前一步节省几十毫秒,重建上下文却会耗尽剩余预算,所谓负载均衡就是浪费。

草案用明确的决策点抑制抖动:会话准入、轮次或步骤开始、暂停后唤醒、指标新鲜度到期、持续改善、硬约束面临风险、尾部事件、预算阈值和会话结束。遥测更新不是自动迁移命令。

普通偏好驱动的移动还要通过稳定窗口:距上次移动的最短时间、适应度的最小改善,以及在剩余视野内扣除迁移或重算成本后仍然成立的收益。已经执行中的步骤不能因偏好而移动。只有硬约束被破坏,或尾部事件无法通过允许的降级吸收,才足以承担中途迁移风险。

真正移动时,顺序是先在目标预留,再传输或重建,最后承诺。目标无法使所需状态完整可用,就必须拒绝或中止,源节点保持可用。预留、承诺和传输均须幂等,重试不能凭空制造第二份资源占用。

失败也有顺序。先只放松偏好、不动硬条件;再使用描述符预先允许的精度下降、能力降级、工作集裁剪或延迟;然后移动仍合格的工作;再带理由失败该步骤;最后才延期、请求人工批准或结束会话。无限重试直到预算消失,不是容错。

草案把五份证据分开:步骤描述符、资源视图快照、选址记录、执行承诺、交接记录。它们由不同角色产生,寿命也不同。资源广告不是容量预留;选址记录不是转发安装证明;交接完成也不证明模型给出了正确答案。

这种分层还能揭示攻击面。节点若夸大能力或谎称持有状态,就能吸引最有价值的会话。每个指标必须带观察时间、新鲜度、来源与置信类别;复用键应限定租户,描述符只披露决策需要的最少信息。即使不暴露正文,工作集大小、工具选择和地域要求也会泄露用户行为。

按 Lu Heng 的现实层方法,意图、观测资源、资格、排序、承诺、交接、执行和结果不应由一个绿色状态替代。所谓“已选择”只回答一个很窄的问题:在一组有时间边界的输入和一个版本化政策下,控制器当时为何选择这个节点。

来源