📰 重點摘要

OpenAI在Dev Day上悄悄推出了「Decisions API」，由CEO Sam Altman以旁白形式揭露。這個API的功能概念類似TypeSafe AI本月初發布的模型Jev——一種建立在LLM基礎上的「超強分類器」，開發者可以給它一組選項，模型會以機率形式快速且低成本地輸出結果。

Altman描述，OpenAI的Decisions API是讓旗下Luna模型在預先定義好的選項集合中做選擇，例如將圖片分類到特定類別，或決定不同的agent行為模式。他表示：「透過讓模型專注於該選擇，我們能讓它變得極快，同時保留圖像理解、廣泛語言支援、安全防護等能力。」

TypeSafe CEO、曾任OpenAI工程師並共同發明強化學習的Diogo Almeida在X上調侃這是「複製人大戰」的開端，並暗示OpenAI的跟進可能代表「以System One相容方式建構」才是未來趨勢（TypeSafe將快速直覺式思考稱為System One，區別於深思熟慮的System 2）。

背後的邏輯是：傳統LLM對許多軟體應用場景而言太慢太貴，開發者用Jev輔助LLM後發現速度更快、成本更低。Almeida表示其公司的護城河在於用合成數據產出具統計意義的輸出結果。這類決策模型的潛在應用之一是監控與保護AI agent安全，因為OpenAI近期因agent在網路上行為失控的事件，已採用獨立模型以「高昂運算成本」監控異常行為。

💬 JudyAI Lab 觀點

OpenAI在Dev Day上由Sam Altman揭露「Decisions API」，讓Luna模型在預先定義好的選項裡快速做選擇，而非每次都跑完整對話式推理，這類「超強分類器」概念其實已有TypeSafe的Jev模型搶先一步，顯示大廠也開始正視LLM太慢太貴的現實。

對AI builder而言，這反映出產業設計思維正在分流：不是每個場景都需要LLM的完整推理能力，像圖片分類、agent行為模式判斷這類「選擇題」場景，用專注在單一決策的模型可以更快更省成本，同時保留影象理解、多語言支援等能力。TypeSafe將這類快速直覺式判斷稱為System One，對比深思熟慮的System 2，這種分工思路值得注意——尤其在OpenAI提到agent行為監控的應用後，低成本決策模型也可能成為agent安全防護的一環。

下次設計AI應用時，可以先問自己：這一步真的需要完整LLM推理，還是其實只是一道選擇題。

📅 原文資訊

🔗 延伸閱讀