📰 重點摘要

ChatGPT讓OpenAI研究員Diogo Almeida心灰意冷。他曾協助打造ChatGPT並發明「基於人類回饋的強化學習」(RLHF)這項推動當前AI浪潮的核心訓練技術,但仍對成果感到失望。他認為問題出在整個業界過去四年都在優化「人類語言」的輸出,但電腦要的是另一種語言,這使得LLM難以真正用於自動化。

兩年前Almeida離開OpenAI創辦TypeSafe AI,試圖解決這個問題。本週該公司發表新模型Jev,採用transformer架構但不是LLM——它不輸出文字,而是輸出機率,即所謂「校準後的決策」(calibrated decisions)。捨棄語言輸出讓模型變得極便宜、極快,且因為輸出選項由使用者預先定義,不會產生幻覺。輸出token免費,輸入token則以十億為單位計費,而非百萬。

開發者反應熱烈,公司一度因需求暴增而無法透過API服務。Vercel工程師Pranit Sharma將原本用OpenAI Luna 5.6跑的指令安全分類器換成Jev後,速度提升5到18倍且準確率更高。Bryo AI技術長Nikhil Mudholkar則拿Jev與Gemini比較商業郵件分類:Gemini準確率略高,但成本貴上10到20倍,他更看重Jev能回傳真實機率值,適合用於自動化工作流程的信心門檻判斷。

除了取代特定場景的LLM,Jev也可作為監督LLM代理人行為的低成本檢查機制,用來追蹤代理人軌跡、防止越獄(jailbreak)攻擊,以及協助模型路由(model routing)的判斷。

💬 JudyAI Lab 觀點

Diogo Almeida曾參與打造ChatGPT並發明RLHF技術,如今卻認為整個業界過去四年都走錯路——最佳化人類語言輸出,卻忽略電腦真正需要的是另一種語言。他離開OpenAI後創辦TypeSafe AI,本週發表的新模型Jev放棄文字輸出,改輸出校準後的機率值。

這反映出一個值得AI builder留意的設計思路:並非所有場景都需要LLM生成自然語言。當輸出選項可預先定義,機率輸出能徹底消除幻覺問題,同時大幅降低成本與延遲。Vercel工程師實測顯示,將指令安全分類器換成Jev後速度提升5到18倍;另一案例則指出雖然Gemini準確率略高,但成本貴上10到20倍,且Jev能回傳真實機率值,更適合自動化工作流程的信心門檻判斷。這提醒我們:除了追求更強的語言生成能力,「用對工具做對的事」同樣重要。

下次設計AI流程時,不妨先問:這個任務真的需要文字輸出,還是機率判斷就夠了?

📅 原文資訊

🔗 延伸閱讀