很多人第一次自己搭智能体(Agent),都会犯同一个错:从头到尾只用一个最贵、最强的模型。结果是效果不错,账单吓人。这个月几家大厂的新品其实已经把答案摆出来了:让大模型当「经理」,小模型当「员工」。
为什么一个强模型跑到底很贵
一个智能体任务里,真正需要「想」的步骤很少:理解需求、拆分计划、判断结果对不对。大部分步骤是体力活:调用搜索、读网页、抽字段、格式化、跑测试、改一行代码。这些活让最贵的模型做,相当于请总监去复印文件。
拿本月公布的价格算一笔账(每百万 token,美元):
- Claude Fable 5.2:输入 8,输出 40
- Gemini 4 Carbon:输入 2,输出 10(11 月 30 日前的价格,12 月起 4 / 20)
- Meta Muse Ember:输入 0.10,输出 0.50
- MiniMax M3.1 Flash:输入 0.15
同样的输出量,Fable 和 Ember 的单价差了 80 倍。哪怕只把八成的体力活挪给小模型,总账单也能降一大截。
三种常见的分工方式
1. 指挥官模式(Orchestrator)
强模型只做两件事:开头拆任务、结尾验收。中间每个子任务交给便宜模型执行。Anthropic 这次就明确说 Fable 5.2 可以作为 Orchestrator 把简单任务分派给小模型。
2. 顾问模式(Advisor)
反过来:默认全程用小模型,小模型自己判断「这步我没把握」时,才把问题发给强模型请教。适合大部分步骤都简单、偶尔遇到难点的流程,比如批量处理工单、整理资料。
3. 路由模式(Router)
在入口放一个很便宜的模型或简单规则,先判断请求难度,再决定交给谁。比如「查天气、改格式」直接走小模型,「帮我设计数据库结构」才走大模型。
动手时的 5 条经验
- 先记账,再优化。给每一步打日志:用了哪个模型、多少 token、成功没有。跑一周就知道钱花在哪。
- 小模型的输出要能被检查。让它输出 JSON 或固定格式,用代码校验;校验不过再重试或升级给大模型,而不是盲目信任。
- 注意幻觉率,不只看价格。便宜模型之间差别很大。比如 Artificial Analysis 测得 Muse Ember 的幻觉率是 17.4%,约为 Claude Haiku 5.5 的一半;也有媒体指出 MiniMax M3.1 Flash 便宜但幻觉率偏高。抽取事实、涉及金额的步骤,宁可多花点钱。
- 用好缓存。系统提示词和工具说明每次都一样,开启提示缓存后,缓存部分的输入价往往只有原价零头(Ember 缓存输入是 0.004 美元 / 百万 token)。
- 留意涨价时间点。不少模型有首发优惠价。Gemini 4 Carbon 和 Argon 都会在 12 月涨价,把模型名写在配置里,方便随时切换。
一个最小可用的例子
假设你要做一个「每天抓 20 篇行业新闻、写成中文摘要」的智能体:
- 小模型:逐篇抓取正文、提取标题、来源、日期、要点(结构化输出)。
- 代码:校验字段是否齐全、日期格式对不对,去重。
- 大模型:只看 20 条要点,挑出最重要的 5 条,写成一篇有观点的综述。
大模型读的是几千字的要点而不是二十篇原文,token 用量可能只有原来的几分之一,质量却基本不掉。
价格均为各厂商 2026 年 11 月公布的官方 API 价格,可能随时调整,以官网为准。
本文由 Lingshi 发布,转载请注明出处。

还没有评论,来说两句吧。