AI Agent 導入

AI 的 token 是什麼?用量和費用怎麼算?

先看解答

token 是模型讀寫文字的最小單位,可能是一個字、半個單字或一個標點;OpenAI 的換算是英文約 4 個字元一個 token;而我用 GPT-5 系列的切法實測,繁體中文大約一個字 0.8 到 0.9 個 token。API 依輸入與輸出的 token 數分開計價,以每 100 萬 token 為單位,輸出通常比輸入貴好幾倍,重複送出的內容走快取會便宜很多。要估每月費用,拿一份真正會用到的文件算一次 token,再乘上每天的使用次數。

一次請求的費用從哪裡來

你們的客服 AI 每回一封信,送進模型的有三樣東西:系統指令、從知識庫找到的兩段文件,以及客戶的來信,這些都算輸入 token;模型寫出的回信是輸出 token。系統指令每封信都一樣,這種重複內容如果走快取,會比一般輸入便宜很多。以 OpenAI 的價目表來說,GPT-5 系列的快取輸入單價是一般輸入的十分之一,舊一點的模型則是四分之一到一半。

同一家廠商的大模型和小模型,單價可能差上百倍。所以估費用時,先決定這個工作需要哪一級的模型,再用官方的 token 計算工具,把一封典型來信加上會附的文件實際算一次。

中文怎麼估

各家模型切 token 的方式不同,網路上流傳的「一個中文字約 2 個 token」,是 GPT-3 那一代切法的經驗;下面表格裡那封 150 字的客服回信,用當時的切法算是 293 個。我拿三段繁體中文和一封英文信,用 OpenAI 公開的切字工具 tiktoken 和本機 Ollama 的兩個開源模型實際算了一次:

文字字數GPT-5 系列GPT-4Qwen 3.5Gemma 4
客服回信(訂單、物流單號、日期)150 字133195128137
文章段落(中文夾少量英文)190 字144219117118
商品規格表(數字、單位、英文縮寫多)134 字115157124126
同一封客服回信的英文版84 個英文字112112127127

字數不含空白。GPT-5 系列和 GPT-4 兩欄用 tiktoken 裡各自對應的切法算,Qwen 和 Gemma 兩欄則是本機 Ollama 回報的輸入 token 數,Gemma 那欄扣掉了它每次固定加在開頭的標記。

  • 新一代的切法對中文省很多:同一封回信,GPT-4 的切法是 195 個 token,GPT-5 系列只要 133 個。
  • 規格表比文章段落費 token:數字和英文縮寫多的規格表,每個字分到的 token 比文章段落多。
  • 中文比英文多用約兩成:同樣的內容,中文版在 GPT-5 系列比英文版多用大約兩成 token,在 Qwen 和 Gemma 則差不多。

所以估預算時,繁中可以先抓一個字 1 個 token 當上限,再拿真正會送進去的文件,用該家廠商的計算工具算一次。Claude 和 Gemini 用的是各自的切法,這次沒有測到,要估就用它們官方的 token 計算 API。上下文長度的限制和 token 的基本概念,寫在 LLM 是什麼。

參考來源

  1. OpenAI Help Center:Understanding and counting tokens(另開分頁)
  2. OpenAI:API Pricing(另開分頁)
  3. Google AI for Developers:Understand and count tokens(另開分頁)
  4. OpenAI:tiktoken(模型與 token 切法對照)(另開分頁)
  5. Ollama:API 文件(prompt_eval_count)(另開分頁)
回到AI Agent 導入