文章封面图: 2026年AI API真实成本:缓存与模型路由

2026年AI API真实成本:缓存与模型路由

发布于:

阅读时间: 3 min

主题: 技术

作者: Leandro Valencia

#AI API 价格#LLM#prompt caching#模型路由#claude#gpt#gemini#deepseek

用 Claude、GPT、Gemini 或 DeepSeek 完成一项任务到底要花多少钱:每百万 token 的价格、包含缓存的计算公式,以及如何通过模型路由降低账单。

目录

按每百万输入 token 的价格比较模型,是一种误导。在真实应用中,尤其是反复读取你的代码或文档的智能体,决定账单的是另外两件事:提示词中有多少是从缓存读取的,以及由哪个模型处理每项任务。

本指南不是基准测试的排名,而是一套方法:计算每项任务的真实成本,并在不牺牲质量的前提下降低这些成本。如果你想知道编程时该选哪个 Claude 模型,我们在 Opus 5.5 vs Sonnet 5.5 中做了说明。如果你关心个人用途的订阅,可以查看 2026 年 AI 的真实价格。

2026年11月API价格(每百万 token)

模型 输入 缓存读取 输出 备注
Claude Opus 5.5 4.00 USD 0.20 USD 20.00 USD 1M 上下文
Claude Sonnet 5.5 2.00 USD 0.20 USD 10.00 USD 1M 上下文
Claude Haiku 5.5 0.10 USD — 0.50 USD 每个提示词最多 100K token;超出后更贵
GPT-5.5(OpenAI) 5.00 USD 0.50 USD 30.00 USD 输入超过约 272K token 时加收费用
Gemini 3.1 Pro(Google) 2.00 USD 0.20 USD 12.00 USD 超过 200K 时更贵;缓存按小时收取存储费用
DeepSeek V4.1 Flash 0.30 USD 0.006 USD 1.20 USD 高峰时段价格;非高峰时段半价

来源:Anthropic、OpenAI、Google 和 DeepSeek 的定价页面,以及转载这些价格的比较网站。价格经常变动,请将其视为某一时刻的快照,并在做预算前进行核实。

对这张表的两点快速解读:

  • 缓存读取的成本比普通输入低 10 到 50 倍。 这是对智能体影响最大的数字。
  • 所有模型的输出都很贵。 要求简短、结构化的回答,也能降低账单。

每项任务真实成本的计算公式

智能体的一项任务(例如"修复这个 bug")包含许多次模型调用。每次调用都会重新发送几乎相同的上下文:指令、文件、历史记录。将它们加总的公式如下:

每项任务成本 = (新 token × 输入价格 + 缓存 token × 缓存价格 + 输出 token × 输出价格)÷ 1,000,000

其中:

  • 新 token: 未在缓存中的输入(每次调用中新增的部分)。
  • 缓存 token: 从缓存读取的输入。在设计良好的智能体循环中,通常占绝大部分。
  • 输出 token: 模型生成的内容。

示例:一项包含 200 万输入 token 的任务

假设:所有调用的输入合计 2,000,000 token,其中 90%(1.8M)从缓存读取,200K 为新 token,另有 20,000 个输出 token。不包括写入缓存的成本和长上下文的附加费用。

模型 新 token 缓存 输出 每项任务合计
Claude Opus 5.5 0.80 0.36 0.40 ≈1.56 USD
Claude Sonnet 5.5 0.40 0.36 0.20 ≈0.96 USD
Gemini 3.1 Pro 0.40 0.36 0.24 ≈1.00 USD
GPT-5.5 1.00 0.90 0.60 ≈2.50 USD
DeepSeek V4.1 Flash(高峰) 0.06 0.01 0.02 ≈0.10 USD

如果不使用缓存,在 Opus 5.5 上运行同一任务大约需要 8.40 USD(2M × 4 USD + 输出)。仅缓存一项就能将成本降低五倍以上。 因此,在为省钱而更换模型之前,先检查你的缓存是否正常工作。

如何利用缓存

缓存按前缀工作:提供商会保存提示词的开头部分,只要其逐字节相同就会重复使用。开头的任何改动都会使之后的全部内容失效。

  • 固定内容放前面。 系统指令、工具描述和参考文档放在开头,并且始终保持相同的顺序。
  • 变动内容放最后。 用户的问题、日期和请求标识符放在缓存部分之后。
  • 留意无声的失效因素。 系统提示词中的时间戳、键顺序不同的 JSON,或在两次调用之间变化的工具列表,都会在不报错的情况下破坏缓存。
  • 进行测量。 API 会返回从缓存读取的 token 数。如果在重复调用中该数字始终为零,说明有东西在改变前缀。

模型路由:不要把所有请求都交给最贵的模型

并非所有任务都需要前沿模型。对工单分类、日志摘要或从邮件中提取字段,便宜的模型就能很好地完成。但重构认证模块或调试并发问题,就不行了。

路由器决定每个请求交给哪个模型:

请求
   │
   ▼
分类器(规则或便宜的模型)
   │
   ├── 复杂任务(重构、调试、推理) ──────────► 前沿模型
   │                                          (Opus 5.5、GPT-5.5、Gemini Pro)
   │
   └── 常规任务(分类、摘要、提取) ──────────► 经济型模型
                                              (Haiku 5.5、DeepSeek Flash)

可以用自己的分类器实现,也可以使用 OpenRouter 或 LiteLLM 这类中间层,它们为多个提供商提供统一的 API。

示例说明

某团队每月处理 1,000 项任务,全部使用 Opus 5.5,每项 1.56 USD:每月 1,560 USD。

分析调用记录后,团队发现 65% 是常规任务。他们把这些任务交给 Haiku 5.5(即使没有缓存,每项也只需约 0.21 USD),并将复杂的 35% 保留在 Opus 5.5 上:

  • 350 项任务 × 1.56 USD = 546 USD
  • 650 项任务 × 0.21 USD ≈ 137 USD
  • 合计 ≈ 每月 683 USD,节省 56%。

确切数字取决于你的任务组合,但原理相同。前提是要测量常规任务的质量没有下降。

在搭建级联之前,先试试简单的方案

路由器会增加复杂性,而且每个模型都有自己的缓存,因此会分散缓存带来的收益。有时,对简单任务使用一个推理强度较低的前沿模型,反而更好。在构建路由器之前,先用自己的测试进行比较。

出于可用性和价格的考虑,不依赖单一提供商也很有帮助;我们在 为什么要分散 AI 提供商 中做了说明。

不依赖基准测试如何选择模型

基准测试分数会随每个版本变化,通常由提供商自行发布,也不一定反映你的任务。更可靠的方法是:

  1. 从你的产品中收集 20 到 50 个真实任务,并附上预期答案。
  2. 在两三个模型上运行,并对质量打分(人工评分,或使用评判模型加评分标准)。
  3. 计算每项已完成任务的成本,而不是每次调用的成本:需要重试三次的便宜模型并不便宜。
  4. 按任务类型决定,而不是一个模型包打天下。

行动计划

  1. 审计 7 天的调用记录。 记录任务类型、新 token、缓存 token 和输出 token,以及所用模型。
  2. 用上面的公式计算每项任务的成本,找出最昂贵的任务。
  3. 先修复缓存。 这是最大的节省,而且不会改变质量。
  4. 将常规工作路由到经济型模型,并测量质量是否保持不变。
  5. 检查你的利润率。 如果你收取订阅费,请使用 利润率计算器 核对每位客户预计的 API 用量是否能被价格覆盖。

Step-by-step guide

  1. 记录 7 天的调用

    记录每次调用的任务类型、输入 token、缓存、输出和模型。

  2. 计算每项任务的成本

    将公式应用于新输入、缓存读取和输出。

  3. 为缓存重新排列提示词

    固定的指令和上下文放在开头,变动的内容放在末尾。

  4. 分类并路由

    简单任务交给便宜的模型,复杂任务交给前沿模型。

  5. 衡量质量与利润率

    用自己的测试比较结果,并检查每个客户的利润率。

Frequently asked questions

什么是 prompt caching?

它是模型提供商的一项功能,会保存重复出现的提示词开头部分(指令、文档、代码),使后续调用能以正常价格的一小部分从缓存中读取。在智能体任务中,同一上下文会被反复发送几十次,这正是最能降低账单的因素。

什么是模型路由?

它是一个决定每个请求交给哪个模型的中间层,依据是请求的难度:分类、摘要、提取数据等简单任务交给便宜且快速的模型,重构、调试、推理等复杂任务交给前沿模型。可以用自己的分类器实现,也可以借助 OpenRouter 或 LiteLLM 等服务。

为什么本指南没有基准测试排名?

因为分数会随每个版本变化,通常由提供商自行发布,也不一定反映你的实际场景。要决定生产环境使用哪个模型,更有用的做法是用两三个模型运行你自己的任务,比较每项任务的质量和成本。

这些价格是最终价格吗?

不是。它们是截至 2026 年 11 月公布的标准价格,且经常变动:存在入门价格、长上下文附加费和批量折扣。做预算前,请查看各提供商的官方定价页面。

相关文章

继续探索您可能感兴趣的相似内容

合作

我每天在用的工具,社区可以拿到更好的条件。

含推广链接。你支付的价格不变。查看全部合作
培训项目

准备好将您的想法转化为真实项目了吗?

Transforma是一个帮助您以清晰的方法创建、执行和扩展项目的培训项目。

了解Transforma项目