📰 重點摘要

Anthropic 於週二發表的部落格文章中，宣布正在研發一套名為 FlashProve 的開源系統，目標是驗證某個輸出究竟由哪一個 AI 模型產生。研究人員稱之為「可證明推論」（provable inference），也就是用密碼學證明提供數學層面的保證，讓使用者能確認自己拿到的答案確實來自預期的模型。其概念類似電子郵件的密碼學簽章，可抵禦冒充者把某個模型偽裝成另一個模型，即使冒充者正是開發並營運該模型的實驗室本身也一樣。研究人員指出，這能防止 AI 公司暗中改用較便宜的模型來節省成本，或改用更昂貴的模型來灌水績效結果。第三方宣稱某項任務由先進模型完成時，也能藉此查證，例如開發者宣稱程式庫經前沿資安模型掃描過漏洞，或企業宣稱商業計畫經合適模型審核通過。運作機制上，AI 實驗室須為每個發布的模型公開一組「指紋」，之後可與特定輸出比對並以密碼學方式驗證。關鍵在於指紋不會洩漏模型權重，因此 Anthropic、OpenAI 等閉源模型廠商無須交出最重要的資產，系統也能適用於商用模型。此外，系統設計得相當輕量，驗證可直接在本機裝置上執行。研究團隊同時釋出詳細技術規格與系統各部分元件的可運作程式碼，以開源授權公開於 GitHub。目前研究仍在進行中，Anthropic 或其他實驗室都沒有部署計畫。研究人員強調這是階段性進展而非完整研究藍圖，希望外界拿去改進。

💬 JudyAI Lab 觀點

這則訊息值得關注，是因為Anthropic提出了FlashProve這套開源系統，試圖用密碼學證明回答你「現在用的究竟是哪個模型」這個長期沒有解法的問題。

我們認為，這個案例反映出AI服務正從「相信廠商說的」走向「可以自己驗證」。原文提到，這套機制類似電子郵件的密碼學簽章，即使冒充者就是開發並營運該模型的實驗室本身，也能被識破，可以防止暗中改用較便宜的模型省成本，或改用更貴的模型來灌水績效。對AI builder來說，這代表模型身分正在變成一種可被查核的屬性：開發者宣稱程式庫經前沿資安模型掃描過，或企業宣稱商業計畫經合適模型審核過，都有機會被第三方查證。而且指紋不會洩漏模型權重，閉源廠商不必交出最重要的資產，驗證也能在本機執行。不過原文也說得清楚，目前研究仍在進行中，Anthropic或其他實驗室都沒有部署計畫，現階段更像是方向的宣告，不是能直接使用的服務。

建議你可以先盤點自己的產品裡，哪些對外說法有提到「由某某模型完成」，想想若被使用者要求證明，你拿得出什麼依據。

📅 原文資訊

🔗 延伸閱讀