📰 重點摘要

陳達里歐（Dario Amodei）週一發文回應業界對Anthropic立場的揣測,澄清該公司從未主張全面禁止開放權重模型。此前Nvidia創辦人黃仁勳於X平台首度發文,分享一封由Nvidia、Hugging Face、Meta、Microsoft、Mistral等公司聯署的公開信,呼籲政策制定者勿對開放權重AI模型施加「過早限制」。該信雖未直接點名中國,但業界討論焦點在於中國AI實驗室是否透過竊取美國同業智慧財產來提升能力,其中一種手法為「蒸餾」(distillation),即用大量提示詞轟炸另一模型以學習其運作方式。

Amodei表示,不具危險能力的開放權重模型是一種公共財,除運算成本外幾乎零成本,能為企業、開發者與研究者創造價值;他認為中國威脅與開放權重模型應分開看待,即使是來自中國的開放權重模型,企業使用也不在他的擔憂之列。他真正憂心的是「威權政府」打造出比美國更強大的模型,以取得「永久軍事優勢」或用於鎮壓人民,中國共產黨並非他唯一擔心的對象,但是「能力最強」的一個。他也擔心AI被用於「生物攻擊」而非僅止於網路攻擊,並認為開放權重模型在這類情境下風險更高,因為難以施加防護機制或監控使用情形;他並引用英國AI安全研究院報告指出,開放權重一旦釋出便無法收回。Amodei主張應限制中國取得先進晶片、正式打擊蒸餾行為,同時也支持建立全球模型安全測試機構,並希望中國也能加入。

💬 JudyAI Lab 觀點

Anthropic執行長Dario Amodei週一罕見公開回應,澄清公司從未主張全面禁止開放權重模型,這場論戰源於黃仁勳號召Nvidia、Meta、Microsoft等業界巨頭聯署公開信,反對政策制定者對開放權重AI「過早限制」。

這次表態值得AI builder群體留意的,是Amodei把兩件事拆得很清楚:開放權重模型本身,以及威權政府拿模型做什麼。他認為前者是公共財,能讓企業與研究者用近乎零成本取得價值,連中國的開放權重模型企業使用他都不擔心;真正的風險在後者——當某個政府用最強模型取得軍事優勢或鎮壓工具,或AI被用於生物攻擊而非單純網路攻擊時,開放權重因為無法回收、難以監控,風險會被放大。這種「模型開放程度」與「使用者意圖」分開評估的思路,對正在做風險判斷的團隊是個提醒:不是所有限制討論都該套用同一套標準。

下次評估要不要開源自己的模型或工具時,不妨先問:真正的風險來自模型能力本身,還是來自誰會拿去用。

📅 原文資訊

🔗 延伸閱讀