📰 重點摘要

Google DeepMind於週三成立「DeepMind Institute」，旨在拓展AGI（通用人工智慧）議題的公開討論。該機構由DeepMind共同創辦人Shane Legg、Google高管James Manyika、以及DeepMind主席Demis Hassabis擔任董事，Legg並兼任總編輯。機構定位是呈現Google、DeepMind與全球研究社群之間對AGI的不同觀點，聲明中明白表示這些觀點「不會總是一致，且隨著前沿領域資訊快速更新，立場也可能改變」。

首批發布四篇文章，主題涵蓋因應AGI衝擊的經濟政策、維持模型推理過程的人類可讀性、人類福祉相關原則，以及前沿AI模型評估框架。其中，DeepMind安全研究員Rohin Shah與Anca Dragan合著一文指出，AI模型「透明度視窗」正在縮小——即檢視模型逐步推理過程的能力並非不可避免地消失。隨著新架構讓最強模型更難被監控，作者主張開發者與監管機構應直接面對安全性取捨，做法包括限制「不透明序列深度」（模型在不產生可讀推理軌跡的情況下能執行的連續運算量），或要求開發者證明其較不透明的系統仍具備同等可監控性。

另一篇由Hassabis撰寫的文章提議由美國主導成立前沿AI標準機構，評估最先進模型。其框架下，開發者最初可在模型發布前最多30天自願提交審查；待評估系統證實有效後，通過測試可能成為在美國部署前沿模型的強制要求。該機構初期會與AI公司共同設計評估方式，但最終將發展出獨立且未公開的「保留測試」，防止實驗室針對已知評測項目量身打造模型。Hassabis表示，此框架未來可視情況「升級」，包括前沿AI開發者協調放緩開發步調。

這些文章發布之際，業界安全辯論正從籠統的擔憂聲明轉向具體的揭露、外部審查與協調減速提案，本週隨著業界領袖呼應Anthropic執行長Dario Amodei提出的前沿AI「放緩步調」倡議，此趨勢進一步加速。

💬 JudyAI Lab 觀點

Google DeepMind本週成立「DeepMind Institute」,由Shane Legg、James Manyika與Demis Hassabis領軍,目標是把AGI相關討論攤開在公開場域,首批就丟出經濟政策、模型推理可讀性、人類福祉原則、評估框架四篇文章打頭陣。

其中最值得留意的是「透明度視窗正在縮小」這個提法——模型架構越強,逐步推理過程反而越難被外部檢視。研究者提出限制「不透明序列深度」、要求開發者證明系統仍可被監控等具體做法,而非停留在喊口號式的安全呼籲。同一批文章裡,Hassabis也提議由美國主導成立前沿AI標準機構,先從30天自願審查開始,未來可能演變成強制門檻,甚至協調放緩開發步調。這反映業界安全辯論正從空泛擔憂轉向可執行的揭露與審查機制,呼應本週Anthropic執行長Dario Amodei倡議的類似方向。

對AI builder來說,這提醒我們:模型能力提升的同時,「可監控性」本身也該被當成一個設計目標,而不是事後補救的選項。

📅 原文資訊

🔗 延伸閱讀