
2026年AI API真实成本:缓存与模型路由
发布于:
阅读时间: 3 min
主题: 技术
作者: Leandro Valencia
用 Claude、GPT、Gemini 或 DeepSeek 完成一项任务到底要花多少钱:每百万 token 的价格、包含缓存的计算公式,以及如何通过模型路由降低账单。
目录
按每百万输入 token 的价格比较模型,是一种误导。在真实应用中,尤其是反复读取你的代码或文档的智能体,决定账单的是另外两件事:提示词中有多少是从缓存读取的,以及由哪个模型处理每项任务。
本指南不是基准测试的排名,而是一套方法:计算每项任务的真实成本,并在不牺牲质量的前提下降低这些成本。如果你想知道编程时该选哪个 Claude 模型,我们在 Opus 5.5 vs Sonnet 5.5 中做了说明。如果你关心个人用途的订阅,可以查看 2026 年 AI 的真实价格。
2026年11月API价格(每百万 token)
| 模型 | 输入 | 缓存读取 | 输出 | 备注 |
|---|---|---|---|---|
| Claude Opus 5.5 | 4.00 USD | 0.20 USD | 20.00 USD | 1M 上下文 |
| Claude Sonnet 5.5 | 2.00 USD | 0.20 USD | 10.00 USD | 1M 上下文 |
| Claude Haiku 5.5 | 0.10 USD | — | 0.50 USD | 每个提示词最多 100K token;超出后更贵 |
| GPT-5.5(OpenAI) | 5.00 USD | 0.50 USD | 30.00 USD | 输入超过约 272K token 时加收费用 |
| Gemini 3.1 Pro(Google) | 2.00 USD | 0.20 USD | 12.00 USD | 超过 200K 时更贵;缓存按小时收取存储费用 |
| DeepSeek V4.1 Flash | 0.30 USD | 0.006 USD | 1.20 USD | 高峰时段价格;非高峰时段半价 |
来源:Anthropic、OpenAI、Google 和 DeepSeek 的定价页面,以及转载这些价格的比较网站。价格经常变动,请将其视为某一时刻的快照,并在做预算前进行核实。
对这张表的两点快速解读:
- 缓存读取的成本比普通输入低 10 到 50 倍。 这是对智能体影响最大的数字。
- 所有模型的输出都很贵。 要求简短、结构化的回答,也能降低账单。
每项任务真实成本的计算公式
智能体的一项任务(例如"修复这个 bug")包含许多次模型调用。每次调用都会重新发送几乎相同的上下文:指令、文件、历史记录。将它们加总的公式如下:
每项任务成本 = (新 token × 输入价格 + 缓存 token × 缓存价格 + 输出 token × 输出价格)÷ 1,000,000
其中:
- 新 token: 未在缓存中的输入(每次调用中新增的部分)。
- 缓存 token: 从缓存读取的输入。在设计良好的智能体循环中,通常占绝大部分。
- 输出 token: 模型生成的内容。
示例:一项包含 200 万输入 token 的任务
假设:所有调用的输入合计 2,000,000 token,其中 90%(1.8M)从缓存读取,200K 为新 token,另有 20,000 个输出 token。不包括写入缓存的成本和长上下文的附加费用。
| 模型 | 新 token | 缓存 | 输出 | 每项任务合计 |
|---|---|---|---|---|
| Claude Opus 5.5 | 0.80 | 0.36 | 0.40 | ≈1.56 USD |
| Claude Sonnet 5.5 | 0.40 | 0.36 | 0.20 | ≈0.96 USD |
| Gemini 3.1 Pro | 0.40 | 0.36 | 0.24 | ≈1.00 USD |
| GPT-5.5 | 1.00 | 0.90 | 0.60 | ≈2.50 USD |
| DeepSeek V4.1 Flash(高峰) | 0.06 | 0.01 | 0.02 | ≈0.10 USD |
如果不使用缓存,在 Opus 5.5 上运行同一任务大约需要 8.40 USD(2M × 4 USD + 输出)。仅缓存一项就能将成本降低五倍以上。 因此,在为省钱而更换模型之前,先检查你的缓存是否正常工作。
如何利用缓存
缓存按前缀工作:提供商会保存提示词的开头部分,只要其逐字节相同就会重复使用。开头的任何改动都会使之后的全部内容失效。
- 固定内容放前面。 系统指令、工具描述和参考文档放在开头,并且始终保持相同的顺序。
- 变动内容放最后。 用户的问题、日期和请求标识符放在缓存部分之后。
- 留意无声的失效因素。 系统提示词中的时间戳、键顺序不同的 JSON,或在两次调用之间变化的工具列表,都会在不报错的情况下破坏缓存。
- 进行测量。 API 会返回从缓存读取的 token 数。如果在重复调用中该数字始终为零,说明有东西在改变前缀。
模型路由:不要把所有请求都交给最贵的模型
并非所有任务都需要前沿模型。对工单分类、日志摘要或从邮件中提取字段,便宜的模型就能很好地完成。但重构认证模块或调试并发问题,就不行了。
路由器决定每个请求交给哪个模型:
请求
│
▼
分类器(规则或便宜的模型)
│
├── 复杂任务(重构、调试、推理) ──────────► 前沿模型
│ (Opus 5.5、GPT-5.5、Gemini Pro)
│
└── 常规任务(分类、摘要、提取) ──────────► 经济型模型
(Haiku 5.5、DeepSeek Flash)
可以用自己的分类器实现,也可以使用 OpenRouter 或 LiteLLM 这类中间层,它们为多个提供商提供统一的 API。
示例说明
某团队每月处理 1,000 项任务,全部使用 Opus 5.5,每项 1.56 USD:每月 1,560 USD。
分析调用记录后,团队发现 65% 是常规任务。他们把这些任务交给 Haiku 5.5(即使没有缓存,每项也只需约 0.21 USD),并将复杂的 35% 保留在 Opus 5.5 上:
- 350 项任务 × 1.56 USD = 546 USD
- 650 项任务 × 0.21 USD ≈ 137 USD
- 合计 ≈ 每月 683 USD,节省 56%。
确切数字取决于你的任务组合,但原理相同。前提是要测量常规任务的质量没有下降。
在搭建级联之前,先试试简单的方案
路由器会增加复杂性,而且每个模型都有自己的缓存,因此会分散缓存带来的收益。有时,对简单任务使用一个推理强度较低的前沿模型,反而更好。在构建路由器之前,先用自己的测试进行比较。
出于可用性和价格的考虑,不依赖单一提供商也很有帮助;我们在 为什么要分散 AI 提供商 中做了说明。
不依赖基准测试如何选择模型
基准测试分数会随每个版本变化,通常由提供商自行发布,也不一定反映你的任务。更可靠的方法是:
- 从你的产品中收集 20 到 50 个真实任务,并附上预期答案。
- 在两三个模型上运行,并对质量打分(人工评分,或使用评判模型加评分标准)。
- 计算每项已完成任务的成本,而不是每次调用的成本:需要重试三次的便宜模型并不便宜。
- 按任务类型决定,而不是一个模型包打天下。
行动计划
- 审计 7 天的调用记录。 记录任务类型、新 token、缓存 token 和输出 token,以及所用模型。
- 用上面的公式计算每项任务的成本,找出最昂贵的任务。
- 先修复缓存。 这是最大的节省,而且不会改变质量。
- 将常规工作路由到经济型模型,并测量质量是否保持不变。
- 检查你的利润率。 如果你收取订阅费,请使用 利润率计算器 核对每位客户预计的 API 用量是否能被价格覆盖。
Step-by-step guide
记录 7 天的调用
记录每次调用的任务类型、输入 token、缓存、输出和模型。
计算每项任务的成本
将公式应用于新输入、缓存读取和输出。
为缓存重新排列提示词
固定的指令和上下文放在开头,变动的内容放在末尾。
分类并路由
简单任务交给便宜的模型,复杂任务交给前沿模型。
衡量质量与利润率
用自己的测试比较结果,并检查每个客户的利润率。
Frequently asked questions
什么是 prompt caching?
它是模型提供商的一项功能,会保存重复出现的提示词开头部分(指令、文档、代码),使后续调用能以正常价格的一小部分从缓存中读取。在智能体任务中,同一上下文会被反复发送几十次,这正是最能降低账单的因素。
什么是模型路由?
它是一个决定每个请求交给哪个模型的中间层,依据是请求的难度:分类、摘要、提取数据等简单任务交给便宜且快速的模型,重构、调试、推理等复杂任务交给前沿模型。可以用自己的分类器实现,也可以借助 OpenRouter 或 LiteLLM 等服务。
为什么本指南没有基准测试排名?
因为分数会随每个版本变化,通常由提供商自行发布,也不一定反映你的实际场景。要决定生产环境使用哪个模型,更有用的做法是用两三个模型运行你自己的任务,比较每项任务的质量和成本。
这些价格是最终价格吗?
不是。它们是截至 2026 年 11 月公布的标准价格,且经常变动:存在入门价格、长上下文附加费和批量折扣。做预算前,请查看各提供商的官方定价页面。
相关文章
继续探索您可能感兴趣的相似内容
为什么 2026 年你不该再依赖单一 AI 供应商来编程
如果月中就用完了 AI 额度,问题不在于你的自律,而在于把鸡蛋放在一个篮子里。学会在 DeepSeek、Qwen、GLM、Kimi、Claude 和 GPT 之间分散配置,更便宜、不间断地编程,并知道何时该换模型,以免月中额度见底中断交付。

Opus 5.5 vs Sonnet 5.5:2026年用哪个Claude模型
对比 Anthropic 的模型:Opus 5.5、Sonnet 5.5、Fable 5.1 与 Haiku 4.5。介绍各自的价格与优势,以及不同任务该选哪一个。
OpenCode Go用量上限:每月10美元值不值
OpenCode Go从首次扣款起就是每月10美元。Go Plus每月40美元,提高的是每个模型自己的额度,不是模型质量。本文说明真实时间窗,以及什么时候不该付这笔钱。
合作
我每天在用的工具,社区可以拿到更好的条件。