什麼是推論（模型推理）？

用已訓練好的模型來處理新輸入並產出結果的過程。每次你跟 ChatGPT 聊天，就是在做推論。推論成本通常按 Token 計費 — 輸入 Token 和輸出 Token 價格不同。優化推論成本是 AI 應用能否獲利的關鍵。