📰 重點摘要

Google 推出 Gemini Decisions API,這是一個專為「封閉選項決策」設計的新端點,搭載全新的 Gemini Decision 1 模型(gemini-decision-1),可透過 Google AI Studio 的 Gemini API 使用,適用於工具選擇、政策檢查、模型路由與情境評分等有限選項的判斷場景。其核心機制是不再逐 token 生成答案文字,而是在單次前向傳遞中直接為候選選項打分,回傳機率與信心分數。官方標示端到端延遲約 150 至 250 毫秒(模型運算中位數 50 至 100 毫秒),輸入每百萬 token 收費 0.10 美元,輸出 token 不計費。官方稱在 1 到 100 個問題的範圍內延遲幾乎持平,整體成本比搭配 Interactions API 的 Gemini 3.5 Flash-Lite 便宜近 5 倍,並在代理路由、推理、排序與多模態理解等基準測試中領先,校準誤差最低。

輸入支援文字、圖片、音訊、影片與 PDF 混合,上限 256K token,單次請求最多可附 1,000 個獨立問題,並可調整圖片與影片解析度以控制細節與 token 成本。例如可把通話錄音搭配帳戶資料,或把掃描的理賠 PDF 搭配受損照片一起評估。問題類型有三種:yes/no 判斷會估算條件成立的機率,並可附上真假描述標準;choice 多選題可從 2 至 255 個選項中選出勝者,並回傳每個候選的正規化機率;score 有序評分則依從 0 開始的分級量表評分,回傳連續加權分數與各級別機率。每個答案都附 0 到 1 的信心分數,程式可藉此把模糊案例交給備援模型或人工覆核。輸入欄位沿用 Interactions API 的 Content 區塊格式。更多細節請見原文連結。


💬 JudyAI Lab 觀點

Google 推出的 Gemini Decisions API 把「封閉選項決策」獨立成一個端點,不再逐 token 生成文字,而是單次前向傳遞直接為候選選項打分。官方標示端到端延遲約 150 至 250 毫秒,這個設計取向值得AI builder留意。

過去許多人遇到工具選擇、政策檢查、模型路由這類只有有限選項的判斷,習慣丟給通用生成模型,再從輸出文字裡解析答案。這則新聞反映的思路是:當問題本質是「從 N 個選項挑一個」,就該用專為此設計的介面。從原文看,輸入每百萬 token 收費 0.10 美元、輸出不計費,官方稱成本比搭配 Interactions API 的 Gemini 3.5 Flash-Lite 便宜近 5 倍,單次請求最多可附 1,000 個問題,延遲在 1 到 100 個問題間幾乎持平。另一個值得注意的細節是,每個答案都附 0 到 1 的信心分數,程式可以據此把模糊案例交給備援模型或人工覆核。這讓「決策」從一段不可控的文字,變成可以設定門檻、可以分流的結構化訊號。當然,以上數字與基準測試結果都是官方說法,實際表現仍要靠自己的資料驗證。

可以先盤點手上的AI流程,找出哪些步驟其實只是在做路由或分類,並試著為它們設定信心分數門檻,低於門檻就交給人工覆核。


📅 原文資訊


🔗 延伸閱讀