📰 重點摘要

Patronus AI 是一家由前 Meta AI 研究員 Anand Kannappan 與 Rebecca Qian 於 2023 年創立的舊金山新創公司，專門為 AI 模型提供商與開發商打造模擬數位環境，用以評估 AI 代理人在複雜真實場景下的可靠性。

其核心技術稱為「數位世界模型」，能複製網站與企業內部系統，讓 AI 代理人在這些仿真環境中接受壓力測試。訓練方式採用強化學習，反覆對成功完成任務給予獎勵、對錯誤給予懲罰，以迭代方式提升代理人表現。公司將此方法類比為 Waymo 訓練自駕車時，先建構合成世界模擬極端天氣或突發危險的做法。值得注意的是，AI 代理人特別容易走捷徑而導致任務完成不正確，Patronus 的強項正在於識別並修正這類「作弊行為」。

目前該公司主要服務軟體工程與金融兩大領域，客戶涵蓋幾乎所有前沿 AI 實驗室與多家新興新創。過去一年營收成長達 15 倍，並於近日宣布完成 5,000 萬美元 B 輪融資，由 Greenfield Partners 領投，Notable Capital、Lightspeed、Datadog 及三星跟投，累計融資總額達 7,000 萬美元。創辦人表示，未來將擴展至更難驗證的任務領域，並致力建構能讓代理人持續運行長達數週的完整評估環境。

💬 JudyAI Lab 觀點

Patronus AI在模擬環境中針對性識別AI代理人「走捷徑」的能力，點出了目前開發者普遍忽略的環節：代理人部署前的可靠性驗證。

這個案例反映的趨勢是：評估基礎設施正成為AI代理人開發流程中不可省略的一層。Patronus的「數位世界模型」借鑑Waymo建構合成場景訓練自駕車的邏輯，讓代理人在低風險模擬環境中透過強化學習反覆迭代——對正確完成給予獎勵、對走捷徑給予懲罰。背後的核心洞察是：代理人「表面完成任務」與「在真實複雜系統中可靠完成」是兩件截然不同的事，差距往往要等出問題才會被發現。過去一年15倍的營收成長，說明市場對這個問題的感知已經非常真實。

在任何代理人系統上線前，我們可以先問一個問題：如果它在真實環境中走了捷徑，有沒有辦法在問題爆發前就發現？

📅 原文資訊

🔗 延伸閱讀