AI Agent 導入
AI 的 token 是什麼?用量和費用怎麼算?
先看解答
token 是模型讀寫文字的最小單位,可能是一個字、半個單字或一個標點;OpenAI 的換算是英文約 4 個字元一個 token;而我用 GPT-5 系列的切法實測,繁體中文大約一個字 0.8 到 0.9 個 token。API 依輸入與輸出的 token 數分開計價,以每 100 萬 token 為單位,輸出通常比輸入貴好幾倍,重複送出的內容走快取會便宜很多。要估每月費用,拿一份真正會用到的文件算一次 token,再乘上每天的使用次數。
一次請求的費用從哪裡來
你們的客服 AI 每回一封信,送進模型的有三樣東西:系統指令、從知識庫找到的兩段文件,以及客戶的來信,這些都算輸入 token;模型寫出的回信是輸出 token。系統指令每封信都一樣,這種重複內容如果走快取,會比一般輸入便宜很多。以 OpenAI 的價目表來說,GPT-5 系列的快取輸入單價是一般輸入的十分之一,舊一點的模型則是四分之一到一半。
同一家廠商的大模型和小模型,單價可能差上百倍。所以估費用時,先決定這個工作需要哪一級的模型,再用官方的 token 計算工具,把一封典型來信加上會附的文件實際算一次。
中文怎麼估
各家模型切 token 的方式不同,網路上流傳的「一個中文字約 2 個 token」,是 GPT-3 那一代切法的經驗;下面表格裡那封 150 字的客服回信,用當時的切法算是 293 個。我拿三段繁體中文和一封英文信,用 OpenAI 公開的切字工具 tiktoken 和本機 Ollama 的兩個開源模型實際算了一次:
| 文字 | 字數 | GPT-5 系列 | GPT-4 | Qwen 3.5 | Gemma 4 |
|---|---|---|---|---|---|
| 客服回信(訂單、物流單號、日期) | 150 字 | 133 | 195 | 128 | 137 |
| 文章段落(中文夾少量英文) | 190 字 | 144 | 219 | 117 | 118 |
| 商品規格表(數字、單位、英文縮寫多) | 134 字 | 115 | 157 | 124 | 126 |
| 同一封客服回信的英文版 | 84 個英文字 | 112 | 112 | 127 | 127 |
字數不含空白。GPT-5 系列和 GPT-4 兩欄用 tiktoken 裡各自對應的切法算,Qwen 和 Gemma 兩欄則是本機 Ollama 回報的輸入 token 數,Gemma 那欄扣掉了它每次固定加在開頭的標記。
- 新一代的切法對中文省很多:同一封回信,GPT-4 的切法是 195 個 token,GPT-5 系列只要 133 個。
- 規格表比文章段落費 token:數字和英文縮寫多的規格表,每個字分到的 token 比文章段落多。
- 中文比英文多用約兩成:同樣的內容,中文版在 GPT-5 系列比英文版多用大約兩成 token,在 Qwen 和 Gemma 則差不多。
所以估預算時,繁中可以先抓一個字 1 個 token 當上限,再拿真正會送進去的文件,用該家廠商的計算工具算一次。Claude 和 Gemini 用的是各自的切法,這次沒有測到,要估就用它們官方的 token 計算 API。上下文長度的限制和 token 的基本概念,寫在 LLM 是什麼。