什麼是 SLM(小型語言模型)?

SLM(Small Language Model)指參數量遠小於 LLM 的語言模型,通常在數十億到百億參數之間(vs LLM 的數千億到上兆)。優勢是便宜、快、可本地部署、特定任務微調效果好。代表模型:Claude Haiku、Microsoft Phi 系列、Gemini Nano、Llama 3B/8B、Mistral 7B。

實戰應用:我們團隊 90% 的簡單 Agent 任務(分類、摘要、Linear 卡片產出、TG 訊息轉發)都跑 Claude Haiku 4.5。同樣的任務換 Opus,成本是 12 倍、速度慢 3 倍,品質差距卻只有 10%。SLM 普及讓 AI 從「給 OpenAI 付 API 費」走向「自己 GPU 跑」,這也是 Edge AI 興起的關鍵。