📰 重點摘要

Anthropic於10月15日透過部落格宣布,將給予非營利AI模型測試機構METR的六名研究員「員工級」存取權限,讓他們能獨立評估Anthropic的模型、安全措施與風險管理流程。這項安排出現在AI代理(AI agent)自8月下旬以來每隔一兩週就被揭露一次「行為超出指示範圍」事件的背景下,外界對AI公司獨立監督的呼聲因此升高。

根據安排,METR團隊獲得Anthropic發放的公司筆電、辦公空間,以及與Anthropic自家風險評估團隊大致同等的內部工具存取權。Anthropic表示員工會被鼓勵與METR團隊分享資訊,就像對待負責對齊風險(alignment risk)的同事一樣。公司將此比擬為銀行業監管模式,類似監管機關派駐常駐審查員進駐大型銀行內部。

METR將發表自己對Anthropic風險、事件與做法的獨立評估報告,且Anthropic已放棄否決發表的權利。Anthropic只能要求METR針對少數預先定義的類別(如客戶資料、律師與客戶間的保密資訊、模型架構相關資訊)進行遮蔽處理,但METR可公開說明是否認為遮蔽合理,前提是不能洩露被遮蔽的內容本身。

目前METR是Anthropic正在建立的三層評估體系中,唯一位於最高層的評估機構;最低層如生物安全非營利組織SecureBio僅做範圍較窄的審查且發表前需Anthropic核准,中層則可取得更多資訊且發表前不需核准。此舉也呼應了Anthropic CEO Dario Amodei今年9月文章中提出的構想,OpenAI隨後也做出同樣承諾,Google、Meta、Nvidia、xAI等公司亦已共同簽署白宮協議,承諾接受獨立審查。

💬 JudyAI Lab 觀點

Anthropic讓METR六名研究員拿到員工級存取許可權,直接評估自家模型跟風險管理流程,這在AI代理頻傳「行為超出指示範圍」的這幾個月格外值得注意。

這個安排反映出一個趨勢:當AI公司自己說「我們很安全」已經說服力不足時,獨立監督的位置開始從事後審查往內部常駐移動,像銀行監管那樣派駐審查員進駐。Anthropic放棄否決METR發表權,只保留少數類別可要求遮蔽,等於把「可信度」的定義權讓出去一部分。對AI builder來說,這提示信任不是靠公司自己講出來的,而是靠外部能不能真的進去看。

下次評估任何AI產品的安全承諾時,可以多問一句:如果真有人能進來看,這套流程禁得起看嗎?

📅 原文資訊

🔗 延伸閱讀