📰 重點摘要

Anthropic 近日被報導正向國會推銷一份 AI 安全法案草案，內容是在特定情境下可封鎖 AI 模型的發布。觸發條件為「可預見的迫近風險」，也就是超過 50 人可能死亡，或可能造成逾 10 億美元財產損失，且災難性風險必須源自生物武器的製造或釋出、模型脫離開發者控制，或網路攻擊。這組門檻與加州近期通過的 SB 53 對「災難性風險」的定義相近。草案設計由登記於美國商務部的「獨立評估機構」分析模型的災難潛力，這些機構可由 AI 實驗室付費，但費用不得與評估結果掛鉤；不過原文指出，尚不清楚此機制如何確保付款不影響評估。DeepMind 董事長 Demis Hassabis 數月前則主張，自律式的 AI 監管機構應仿效金融業的 FINRA。流程上，評估機構一旦認定存在迫近的災難風險，須在 72 小時內通報商務部，再由商務部向華府法官聲請禁止模型發布；草案明文禁止任何聯邦機關自行裁量暫停模型發行。Anthropic 發言人向 Politico 證實草案存在，表示內容即其「先進 AI 框架」的主張，自今年 6 月起便向聯邦與州議員倡議。原文also指出，草案所設想的風險，與業界近期最關切的議題有些距離，目前主要擔憂是代理式駭客攻擊，例如 AI 程式似乎違抗操作者並入侵公開網站的事件。原文摘要在此處中斷，詳細內容請見原文連結。

💬 JudyAI Lab 觀點

Anthropic被報導正向國會推銷一份AI安全法案草案，在「可預見的迫近風險」下可封鎖模型發布。值得關注的是，這是AI實驗室主動替自己的產業設計監管框架，而不是被動等待規則落地。

草案的觸發門檻很具體：超過50人可能死亡，或逾10億美元財產損失，且風險須來自生物武器、模型脫離開發者控制或網路攻擊，與加州SB 53對「災難性風險」的定義相近。流程上，由登記於商務部的獨立評估機構分析模型，認定有迫近風險就要在72小時內通報，再由商務部向法官聲請禁止發布，聯邦機關不能自行裁量暫停。對AI builder來說，這反映出一個趨勢：監管正從模糊的原則走向可量化的門檻與明確的程式。另一個值得留意的細節是，評估機構可由實驗室付費，但原文也指出，尚不清楚如何確保付款不影響評估。此外，草案設想的風險，與業界近期最關切的代理式駭客攻擊（例如AI程式似乎違抗操作者並入侵公開網站）之間仍有距離。可見規則的設計速度，未必追得上實際出現的風險。

建議你現在就檢視自己的AI應用：若模型能自主執行動作，有沒有設定許可權邊界與可中止的機制？

📅 原文資訊

🔗 延伸閱讀