文章封面圖: 2026年AI API真實成本:快取與模型路由

2026年AI API真實成本:快取與模型路由

發佈於:

閱讀時間: 3 min

主題: 技術

作者: Leandro Valencia

#AI API 價格#LLM#prompt caching#模型路由#claude#gpt#gemini#deepseek

用 Claude、GPT、Gemini 或 DeepSeek 完成一項任務到底要花多少錢:每百萬 Token 的價格、包含快取的計算公式,以及如何透過模型路由降低帳單。

目錄

以每百萬輸入 Token 的價格來比較模型,是一種誤導。在真實應用中,尤其是會反覆讀取你的程式碼或文件的智慧代理,決定帳單的是另外兩件事:提示詞中有多少是從快取讀取的,以及由哪個模型處理每項任務。

本指南不是基準測試的排名,而是一套方法:計算每項任務的真實成本,並在不犧牲品質的前提下降低這些成本。如果你想知道寫程式時該選哪個 Claude 模型,我們在 Opus 5.5 vs Sonnet 5.5 中說明過。如果你關心個人用途的訂閱方案,可以參考 2026 年 AI 的真實價格。

2026年11月API價格(每百萬 Token)

模型 輸入 快取讀取 輸出 備註
Claude Opus 5.5 4.00 USD 0.20 USD 20.00 USD 1M 上下文
Claude Sonnet 5.5 2.00 USD 0.20 USD 10.00 USD 1M 上下文
Claude Haiku 5.5 0.10 USD — 0.50 USD 每個提示詞最多 100K Token;超過後較貴
GPT-5.5(OpenAI) 5.00 USD 0.50 USD 30.00 USD 輸入超過約 272K Token 時加收費用
Gemini 3.1 Pro(Google) 2.00 USD 0.20 USD 12.00 USD 超過 200K 時較貴;快取依小時收取儲存費用
DeepSeek V4.1 Flash 0.30 USD 0.006 USD 1.20 USD 尖峰時段價格;離峰時段半價

來源:Anthropic、OpenAI、Google 與 DeepSeek 的定價頁面,以及轉載這些價格的比較網站。價格經常變動,請將其視為某一時點的快照,並在編列預算前再次確認。

對這張表的兩點快速解讀:

  • 快取讀取的成本比一般輸入低 10 到 50 倍。 這是對智慧代理影響最大的數字。
  • 所有模型的輸出都很貴。 要求簡短、結構化的回答,也能降低帳單。

每項任務真實成本的計算公式

智慧代理的一項任務(例如「修復這個 bug」)包含許多次模型呼叫。每次呼叫都會重新送出幾乎相同的上下文:指令、檔案、歷史紀錄。將它們加總的公式如下:

每項任務成本 = (新 Token × 輸入價格 + 快取 Token × 快取價格 + 輸出 Token × 輸出價格)÷ 1,000,000

其中:

  • 新 Token: 未在快取中的輸入(每次呼叫新增的部分)。
  • 快取 Token: 從快取讀取的輸入。在設計良好的智慧代理迴圈中,通常佔絕大多數。
  • 輸出 Token: 模型生成的內容。

範例:一項包含 200 萬輸入 Token 的任務

假設:所有呼叫的輸入合計 2,000,000 Token,其中 90%(1.8M)從快取讀取,200K 為新 Token,另有 20,000 個輸出 Token。不包括寫入快取的成本以及長上下文的附加費用。

模型 新 Token 快取 輸出 每項任務合計
Claude Opus 5.5 0.80 0.36 0.40 ≈1.56 USD
Claude Sonnet 5.5 0.40 0.36 0.20 ≈0.96 USD
Gemini 3.1 Pro 0.40 0.36 0.24 ≈1.00 USD
GPT-5.5 1.00 0.90 0.60 ≈2.50 USD
DeepSeek V4.1 Flash(尖峰) 0.06 0.01 0.02 ≈0.10 USD

如果不使用快取,在 Opus 5.5 上執行同一項任務大約要 8.40 USD(2M × 4 USD + 輸出)。只靠快取就能把成本降低五倍以上。 因此,在為了省錢而更換模型之前,先檢查你的快取是否正常運作。

如何善用快取

快取是以前綴運作的:供應商會保存提示詞的開頭部分,只要它逐位元組相同就會重複使用。開頭只要有任何改動,之後的所有內容都會失效。

  • 固定的內容放前面。 系統指令、工具說明與參考文件放在開頭,並且始終保持相同的順序。
  • 變動的內容放最後。 使用者的問題、日期與請求識別碼放在快取部分之後。
  • 留意無聲的失效因素。 系統提示詞中的時間戳記、鍵順序不同的 JSON,或在兩次呼叫之間變動的工具清單,都會在不報錯的情況下破壞快取。
  • 進行測量。 API 會回傳從快取讀取的 Token 數。如果在重複呼叫中這個數字始終為零,代表有東西在改變前綴。

模型路由:不要把所有請求都交給最貴的模型

並非所有任務都需要前沿模型。對工單分類、日誌摘要或從郵件中擷取欄位,便宜的模型就能處理得很好。但重構驗證模組或除錯並行問題,就不行了。

路由器決定每個請求交給哪個模型:

請求
   │
   ▼
分類器(規則或便宜的模型)
   │
   ├── 複雜任務(重構、除錯、推理) ──────────► 前沿模型
   │                                          (Opus 5.5、GPT-5.5、Gemini Pro)
   │
   └── 常規任務(分類、摘要、擷取) ──────────► 經濟型模型
                                              (Haiku 5.5、DeepSeek Flash)

可以用自己的分類器實作,也可以使用 OpenRouter 或 LiteLLM 這類中間層,它們為多個供應商提供單一的 API。

範例說明

某團隊每月處理 1,000 項任務,全部使用 Opus 5.5,每項 1.56 USD:每月 1,560 USD。

分析呼叫紀錄後,團隊發現 65% 是常規任務。他們把這些任務交給 Haiku 5.5(即使沒有快取,每項也只需約 0.21 USD),並將複雜的 35% 保留在 Opus 5.5 上:

  • 350 項任務 × 1.56 USD = 546 USD
  • 650 項任務 × 0.21 USD ≈ 137 USD
  • 合計 ≈ 每月 683 USD,節省 56%。

確切數字取決於你的任務組合,但原理相同。前提是要測量常規任務的品質沒有下降。

在搭建級聯之前,先試試簡單的方案

路由器會增加複雜度,而且每個模型都有自己的快取,因此會分散快取帶來的效益。有時,對簡單任務使用一個推理強度較低的前沿模型,反而更好。在建構路由器之前,先用自己的測試進行比較。

基於可用性與價格的考量,不依賴單一供應商也很有幫助;我們在 為什麼要分散 AI 供應商 中說明過。

不依賴基準測試如何選擇模型

基準測試分數會隨每個版本變動,通常由供應商自行公布,也不一定反映你的任務。更可靠的方法是:

  1. 從你的產品中收集 20 到 50 個真實任務,並附上預期答案。
  2. 在兩三個模型上執行,並為品質評分(人工評分,或使用評判模型加上評分準則)。
  3. 計算每項已完成任務的成本,而不是每次呼叫的成本:需要重試三次的便宜模型並不便宜。
  4. 依任務類型決定,而不是一個模型包打天下。

行動計畫

  1. 稽核 7 天的呼叫紀錄。 記錄任務類型、新 Token、快取 Token 與輸出 Token,以及所使用的模型。
  2. 用上面的公式計算每項任務的成本,找出最昂貴的任務。
  3. 先修正快取。 這是最大的節省,而且不會改變品質。
  4. 將常規工作路由到經濟型模型,並測量品質是否維持不變。
  5. 檢查你的利潤率。 如果你販售訂閱方案,請使用 利潤率計算機 核對每位客戶預估的 API 用量是否能被售價涵蓋。

Step-by-step guide

  1. 記錄 7 天的呼叫

    記錄每次呼叫的任務類型、輸入 Token、快取、輸出與模型。

  2. 計算每項任務的成本

    將公式套用於新輸入、快取讀取與輸出。

  3. 為快取重新排列提示詞

    固定的指令與上下文放在開頭,變動的內容放在末尾。

  4. 分類並路由

    簡單任務交給便宜的模型,複雜任務交給前沿模型。

  5. 衡量品質與利潤率

    用自己的測試比較結果,並檢查每位客戶的利潤率。

Frequently asked questions

什麼是 prompt caching?

它是模型供應商提供的一項功能,會保存重複出現的提示詞開頭部分(指令、文件、程式碼),讓後續呼叫能以正常價格的一小部分從快取中讀取。在智慧代理任務中,同一段上下文會被反覆送出數十次,這正是最能降低帳單的因素。

什麼是模型路由?

它是一個決定每個請求交給哪個模型的中間層,依據是請求的難度:分類、摘要、擷取資料等簡單任務交給便宜且快速的模型,重構、除錯、推理等複雜任務交給前沿模型。可以用自己的分類器實作,也可以借助 OpenRouter 或 LiteLLM 等服務。

為什麼本指南沒有基準測試排名?

因為分數會隨每個版本變動,通常由供應商自行公布,也不一定反映你的實際情境。要決定正式環境使用哪個模型,更有用的做法是用兩三個模型執行你自己的任務,比較每項任務的品質與成本。

這些價格是最終價格嗎?

不是。它們是截至 2026 年 11 月公布的標準價格,而且經常變動:存在入門價格、長上下文附加費與批次折扣。編列預算前,請查看各供應商的官方定價頁面。

相關文章

繼續探索您可能感興趣的相似內容

合作

我每天在用的工具,社群可以拿到更好的條件。

含推廣連結。你支付的價格不變。查看全部合作
培訓計畫

準備好將您的想法轉化為真實專案了嗎?

Transforma是一個幫助您以清晰的方法創建、執行和擴展專案的培訓計畫。

了解Transforma計畫