📰 重點摘要

這是直接撰寫中文摘要的任務,不需要工具或技能。

Anthropic執行長Dario Amodei在9月提出「放緩前沿發展」構想,主張讓最強大AI模型的進展速度降下來,好讓安全研究能跟上,具體做法包括在實驗室內設置獨立評估者、建立共同安全標準、限制民主國家開發者的推進速度,並最終推動含中國在內的國際協調。OpenAI的Sam Altman、Google DeepMind共同創辦人Demis Hassabis與xAI創辦人Elon Musk皆表態支持此路線;但Amodei強調「放緩」不等於停止模型訓練與技術進展,一些政治人物則想踩更硬的剎車——參議員Bernie Sanders與眾議員Greg Casar於9月23日提出《禁止人工超級智慧法案》,主張永久禁止超級智慧,並暫停先進AI開發直到聯邦安全規則到位;參議員Elizabeth Warren也要求立即暫停,歐盟執委會主席Ursula von der Leyen則支持前沿AI研究放緩。相對地,川普總統反對減速,稱限制只會圖利中國,並警告「別殺了金雞母」;Meta的Mark Zuckerberg主張讓各實驗室自行決定安全節奏,理由是市場競爭與法律責任本身就是約束力;Nvidia的Jensen Huang同樣主張加速開發,但支持個別公司在產品不安全或控制力不足時自行暫停——他們反對的是「集體協調式」減速,而非所有形式的節制。9月29日,川普與多家AI大廠高層簽署一份自願性安全協議,內容聚焦內部控管、獨立審計與監督機制,但未強制要求集體暫停開發。與此同時巨額資金持續湧入AI建設,軟銀近期再發行100億美元加1.15億歐元(約11.5億美元)公司債,為亞太與日本史上最大非金融企業債券發行案之一,用於支持其對OpenAI的投資(軟銀截至7月底已投入約546億美元);聖路易聯邦準備銀行1月分析估算,2025年前三季AI相關投資占美國實質GDP成長的39%,貢獻0.97個百分點。詳細內容請見原文連結。


💬 JudyAI Lab 觀點

當AI產業最有影響力的幾位領袖都同意「該放緩前沿發展」,卻在怎麼放緩上各執一詞,這本身就是觀察AI治理走向的最佳切片。

Dario Amodei提出的放緩路線獲得Altman、Hassabis、Musk表態支援,但Sanders與Casar提出的法案主張直接禁止超級智慧並暫停開發,Warren要求立即暫停,川普則反對減速,稱限制只會圖利中國。Zuckerberg與Huang代表另一種立場:反對集體協調式減速,但支援個別實驗室依自身風險判斷自行暫停。9月29日簽署的自願安全協議,正好落在「有共識卻無強制力」的中間地帶,說明目前的治理工具仍停留在自律階段。與此同時,軟銀百億美元級的加碼動作顯示,資金面並未因安全辯論而放慢腳步。

對AI builder而言,值得思考的不是「該不該減速」,而是自己的產品安全把關,目前是靠外部規範,還是隻靠團隊自己的自律。


📅 原文資訊


🔗 延伸閱讀