#模型路由

共 2 篇内容，涉及 1 个模块

案例2

把 Agent 的账单砍掉 88.9%：一次复杂任务 40 次模型调用背后的成本治理实战

2026 年 9 月，云栖大会前后有一条被低估的工程数据：一次复杂的 Agent 任务往往涉及十余次到数十次模型调用，而通过模型路由等 Harness 层能力，可以在保留 99.96% 任务质量的同时把成本降低 88.9%。这个数字之所以值得单独写一篇，是因为它戳中了 2026 年所有 Agent 项目的同一个死穴——Demo 阶段每任务几毛钱，上线后每任务几块钱，规模化之后账单涨 10 倍以上，而团队的第一反应「换个便宜模型」几乎总是失败。本文是一家中型 SaaS 公司真实走过的 10 周：从「账单涨了 14 倍」到「单任务成本降到原来的 11.1%，质量回归集通过率 99.96%」。全文包含可复现的五把刀（模型路由 / Prompt Caching / 上下文预算 / 批处理 / 早停去重）各自的 ROI 实测占比、三层指标体系与评测集构建方法、灰度切流与回归监控的完整节奏、每一步的 Prompt 模板，以及 14 个真实踩过的坑。附完整效果数据表与回滚红线定义。

2026-09-23

#AI实战#Agent

案例企业应用

毛利从 -50% 到转正：一家 156 亿美元估值的法律 AI 公司，为什么主动放弃闭源前沿模型

2026 年 9 月，Bloomberg 披露了一条被低估的产业新闻：法律 AI 公司 Harvey（估值 156 亿美元）把主力负载从闭源前沿模型迁到了自研模型——一个基于 Moonshot Kimi K3 开放权重做后训练的内部模型。迁移的驱动力不是能力，是算术：按用量计费模式下 token 消耗涨了 20 倍，毛利从约 +50% 一路跌到约 -50%；迁移后毛利转正。Abridge、Decagon、Ramp 被报道在走同一条路，Sequoia 与 General Catalyst 在背后推。这是企业级 AI 公司第一次成规模地「离开前沿实验室」，而触发这件事的是单位经济学，不是跑分。本文把这次迁移拆成可复现的工程动作：任务分层与模型路由、评测集构建、后训练数据从哪来、灰度切流与回归监控、以及 14 个真实会踩的坑。附每一步的 Prompt 模板与效果数据表。

2026-09-22

#AI实战#模型迁移

#模型路由

把 Agent 的账单砍掉 88.9%：一次复杂任务 40 次模型调用背后的成本治理实战

毛利从 -50% 到转正：一家 156 亿美元估值的法律 AI 公司，为什么主动放弃闭源前沿模型

相关标签