摘要

  • 9 月 7 日提交的个人 Internet-Draft 把 MRL 定义为:调用端发出最后一个语音样本,到同一调用端观测到系统响应起音之间的有符号时长。
  • 草案要求同时报告未缓冲的 Ingress MRL 与经过声明抖动缓冲后的 Playout MRL,并公开起音阈值差异、连续语音第二起点、校准和丢弃样本。
  • 这不是 IETF 或 IPPM 已采纳的标准,也不能证明回答正确;它提供的是一套尚待验证、但可被审计的比较边界。

快数字也可能来自被删掉的慢样本

性能报告最容易隐藏的字段不是均值,而是分母。draft-nygate-ippm-mrl-00 要求每组分布同时给出尝试数、报告数、丢弃数,并使各项丢弃原因之和等于丢弃数。找不到响应起音、没有收到包、发送节奏失控等情况不能悄悄消失。

这条约束直接改变采购含义。若一次测试把所有无响应通话剔除,只计算幸存者的 P50 和 P95,它测到的是“成功被检测的通话有多快”,而不是“用户请求获得服务的表现”。另一个系统若诚实保留困难样本,排名可能更差。没有分母的百分位数不具备同等证据身份。

草案于 2026 年 9 月 7 日首次上传并被 Datatracker 接受,标注拟定 Informational 状态,2027 年 3 月 11 日到期。文中仍在询问 IPPM 是否是合适归属,也列出 DISPATCH 或 Independent Submission 的可能路径;附录里的 Performance Metrics Registry 条目并未向 IANA 提交。因而当前信号是一份个人提案,而非工作组采纳、IETF 共识或注册度量。

起点不能借用系统自己的判断

MRL 的起点 t0 不是“系统认为用户说完了”的时刻,而是预录刺激语句的最后一个语音样本在调用端 RTP 边界发出的时刻。研究者先离线标注到样本精度,再把样本映射到承载它的 RTP 包和帧内位置。

草案明确拒绝用运行时语音活动检测器定义这个起点。检测器的判定滞后本来就是用户等待的一部分;若把它从起点中扣掉,系统越迟确认用户说完,报告反而越好看。给语音末尾机械增加固定常量也会把每个 MRL 同幅压低。

终点 t1 在同一调用端取得,两端时间戳来自同一台主机的单调时钟,所以不需要调用端与受测系统对时。这解决的是时钟偏移,不会把网络路径从结果中消除。该数字描述路径与受测系统的组合;若要拆开两者,必须另做路径表征。

MRL 保留符号。激进的断句预测或 backchannel 可能让响应在刺激语句结束前到达,形成负值,不能归零。但负值也可能源于把系统开场问候误当成回答。草案要求先标出非请求音频的结束点,再开始寻找响应起音。

到包与听见之间还有缓冲

同一个响应必须产生两个结果。Ingress MRL 在起音样本的包到达时停止计时,不施加缓冲;它呈现受测系统与路径的贡献,也应如实保留抖动。Playout MRL 则在该样本按声明目标深度离开去抖缓冲区时停止,更接近用户实际等待,却混入了调用端的缓冲策略。

只报 Ingress 会低估听者等待,只报 Playout 又无法分清慢在系统还是慢在客户端缓冲。两者必须一起读。若观测点改成主机抓包、会议桥、运营商录音或终端音频设备,协议栈、转码、媒体桥、硬件与播放延迟都会改变区间。草案允许这些观测,但要求说明新增项;未经表征时只能称为上界,也不能和 RTP 端点数据混成一个分布。

第一声可能只是策略性噪声

合成语音常以渐强方式进入,“第一样本”并没有天然唯一阈值。草案设计 sensitive、headline、strict 三种起音规则,要求把三者结果的跨度作为起音定义不确定性一并发布。平缓渐强会扩大这项误差,孤立噪声峰值也可能使检测提前。

更关键的是连续性。一套系统可以在 400 毫秒时发出“嗯”、呼吸声或 earcon,沉默 500 毫秒,再开始完整回答。首声 MRL 会奖励它。草案不让算法判断“这句话有没有意义”,因为语义判断难以由外部审阅者稳定复算;它改用结构规则:从首次起音起的 2000 毫秒窗口内,寻找最长的低于阈值区间。若超过 150 毫秒,就标为不连续,并从最后一段连续语音的开始再报一个 MRL。

这两个常量仍是提案中的开放问题。作者承认它们没有基于真实填充行为语料确定。正确用法不是把 150 毫秒奉为自然法则,而是保存捕获与参数,让未来规则可以重算同一批原始材料。

冷启动与热状态也不能混装

第一轮包含会话建立、模型冷启动、空缓存和尚未打开的连接;后续轮次可能利用已经积累的上下文。草案要求逐次记录轮次编号,不允许在没有说明数量的情况下把首轮与后续轮次混合。只测首轮与只测稳态都可以成立,但回答的是不同问题。

比较包还需携带编码、帧周期、缓冲目标、起音参数、刺激材料哈希、校准条件、受测系统标识与建议的配置哈希。原始捕获只放载荷和时间戳,不预先固化派生数字,从而允许审阅者换用新阈值重算。

校准通过已知延迟的参考响应器完成。未校准的设备必须把 calibration 明确设为空,其结果只能是上界。只用恰好对齐帧周期的延迟校准,会让帧量化错误隐身;这正说明一份精致报告也需要可挑战的运行证据。

延迟不替回答质量作证

MRL 不包含识别准确率、事实正确性、相关性或任务完成度。快速而错误的回答仍会取得漂亮成绩。增量音频若之后被改写,首声也不能代表最终响应。速度、连续性、正确性与有用性需要不同度量,不能由一个字段继承彼此的结论。

测量本身还有权限和隐私边界。未经运营方授权的大量主动呼叫可能违反条款,甚至与拒绝服务难以区分。捕获中包含刺激与响应音频,人声可能具有个人与生物识别意义。应优先使用合成或经同意材料,限制访问与保存期限。

因此,这份草案最有价值的地方不是创造一个新排行榜,而是拒绝让毫秒数字脱离自身的证据链。第一声、连续回答、到包、播放、首轮、热状态和幸存样本是不同事实。它们被放回正确层级后,领导者才能问真正的比较问题:两条曲线到底测的是不是同一件事。

来源