LLM Token 計數器與提示詞快取成本計算器

英文、程式碼與中日韓文字在子詞分詞器下的差異

現代 BPE 分詞器（如 OpenAI 的 o200k_base 系列、Anthropic 的 Claude 5 分詞器與基於 SentencePiece 的 Gemini 詞表）會將文字切分為位元組或字元子詞，而非單純依空白分詞。 一般英文散文平均約 3.8 至 4.2 個字元折合 1 個 token；而 JSON 鍵名、縮排、堆疊追蹤與 URL 因標點切分頻繁，密度會提高至每 2.5 至 3.2 個字元即消耗 1 個 token。

中文、日文與韓文字元通常每個字會消耗 0.6 至 1.1 個 token；此外，Anthropic 較新的 Claude 5 分詞器在密集程式碼或多語言輸入上，可能比舊版 Sonnet 4.6 詞表多產生 25%–30% 的 token。

為何長上下文跳檔門檻與提示詞快取會主導真實 API 帳單

一旦單筆請求跨越供應商的長上下文跳檔線，只比較基礎每百萬輸入單價就會產生嚴重誤判。 在 GPT-6 Astra、GPT-6.1 Terra 與 GPT-5.6 系列上，當單筆總輸入超過 272,000 token（包含命中的快取前綴 token）時，整筆請求都會切換至更高的 >272K 費率區間。 同理，Grok 4.7 與 Gemini 2.5 Pro 會在 200,000 輸入 token 處跳檔，而 Claude Haiku 5.5 則在超過 100,000 輸入 token 後跳檔。

相對地，只要在每筆請求開頭讓系統提示詞、工具定義與參考文件保持位元組完全一致，即可觸發快取讀取折扣——通常比非快取輸入低 75% 至 90%。 調整上方的快取命中率，即可模擬前綴穩定度對 30 天月度支出的影響。

• 將靜態指令、JSON Schema 與 Few-shot 範例固定在確定性的前綴中，並將時間戳記或使用者動態變數附加在末尾。
• 串接前先對 RAG 片段去重，避免多出一段重複內容就把 265K 提示詞推過 272K 計費跳檔線。
• 估算前綴重用率較低的突發批次任務時，應一併計入快取寫入預熱成本與重試率。