摘要
- Mistral Large 4 于10月6日开放 API 公共预览。公司称权重预计在月底发布;截至10月8日,客户自行部署仍只是未来选项。
- 模型卡当前列出每百万输入 token 0.68美元、每百万输出 token 2.09美元的限时优惠价,标准价分别为1.36美元和4.18美元。低价试用可以测出 API 账单,却不能说明自行运营模型的成本。
- 买方现在可用真实工作负载测试服务;待模型文件、许可证和技术细节公开后,再比较每个合格结果的成本与控制要求。
一次发布,两只时钟
Mistral 10月6日的公告同时启动了两只时钟。第一只已经在走:Large 4 可以通过 Mistral Studio 的 API 预览使用。第二只还在倒计时:公司预计月底前发布权重。这两种访问方式并不等价。前者由 Mistral 负责运行模型,客户按用量购买推理服务;后者可能让客户自己运营模型,但要等实际发布并了解最终条件。
这样的先后顺序有商业意义。企业不必先决定是否搭建私有部署,就能开始测试模型能否改善某个真实流程,从而降低初步验证成本。但眼下可做的比较,是按量计费的服务与买方现有方案之间的比较,而不是与尚未交付的本地系统相比。
目前的优惠价让第一轮测试可以直接算账。Mistral 模型卡列出未缓存输入每百万 token 0.68美元、输出每百万 token 2.09美元;划线标准价是1.36美元和4.18美元。缓存输入另计,优惠价为0.07美元,标准价0.14美元。官方 changelog 称发布优惠为期两周、折扣五成。举例说,1000万未缓存输入 token 加100万输出 token,按优惠价是8.89美元,尚未计入重试、工具、税费和编排;按标准价则是17.78美元。这只是算术示例,不是客户成本预测。
对买方有用的数字不是孤立的每百万 token 价格,而是按其提示词长度、缓存复用、输出规模、工具调用、重试和人工复核计算的“每个合格结果成本”。一项运行一小时的代理任务与一次简短分类,token 结构可能完全不同。如果结果不合格而必须重做,每次请求便宜也不代表任务完成成本低。
排名不能替客户做购买决定
早期评测呈现出不同侧面。Vals AI 在10月7日的模型页将 Large 4 列为 Vals Index 第33/45名,得分48.05%;同时它在 Harvey’s Legal Agent Benchmark 上的最好名次是第6/76。这个指数汇总金融、编程、法律和税务任务,并按这些行业在美国 GDP 中的大致占比加权。Vals 称其为一种近似代理指标,也提醒部分测试可能使用不同供应商和参数。它是一种特定的观察角度,不是通用质量排名。
因此,企业应该测试自己的任务,而不是照搬发布稿或把综合名次当采购依据。Mistral 表示预览版本仍在持续改进,并称权重发布时会补充架构、评测和后训练信息。Le Monde 在发布当天报道,公司的性能主张当时仍有待独立验证。客户现在通过 API 可以采集自己的结果,但这些结果只说明特定预览版本和服务配置下的表现。
未来选项还没有运营价格
官方模型卡给出的规格是:520亿活跃参数、1.05万亿总参数、16亿参数的视觉编码器,以及100万 token 的上下文窗口。这些数字都没有说明客户要达到某个延迟和并发目标,需要多少内存。每个 token 激活的参数不等于需要加载的全部权重大小;精度和量化、内存带宽、路由、上下文长度及推理软件栈都会影响部署。
未来权重有潜在价值,但条件尚未具备。它们可能让客户改在私有云或自有服务器上推理,调整部分审核设置,或在托管服务变化时保留替代方案。与此同时,补丁更新、安全、扩容、可用性和事故响应也会更多落到客户身上。下载模型不等于免费运行模型。
更稳妥的采购顺序是现在先选一组有代表性的任务,记录 API 的质量、延迟和 token 支出,同时保存提示词、版本、输出验收规则、缓存假设和重试次数。权重发布后,再用同一组任务测试,并把硬件、工程和运维人员计入每个合格结果的成本。许可证、设备、安全和可用性也应分别核验。
所以这次发布一边有价格,另一边还没有。API 已能把评估变成今天的账单。未来权重或许会移动控制权,但买方目前还不知道这种控制要花多少钱,也不确定它是否更符合自身运营条件。
资料来源:Mistral 公告;模型卡和价格;产品更新日志;Vals 模型资料;Vals Index 方法说明;Le Monde 发布报道。
会员简报
档案背景详情
使用相应会员等级登录,即可解锁完整简报与来源注释。
仅限 Strategic Circle
Strategic Circle
所有读者均可浏览。加入并登录后可解锁档案简报。
加入 Strategic Circle仅限 Leadership Alliance
Leadership Alliance
符合条件的 IP 资产所有者和管理层可登录查看 Leadership Alliance 简报。
加入 Leadership Alliance
