📰 重點摘要

微軟總裁布萊德・史密斯在近期BBC podcast上公開呼籲AI監管應立即上路,他指出目前連牛奶、洗衣機這類消費產品都比打造AI的公司受到更多監督把關。他形容AI既是「武器也是工具」,正讓全球網路安全暴露於風險之中，並表示「時刻已經到來」該建立全球性的安全規則。

史密斯特別點名英國,而非美國或歐盟,是最適合領導全球AI安全規則的角色。英國於2023年成立的AI安全研究院(AISI),能在美國前沿實驗室模型正式部署前就取得存取權進行測試,已迅速成為AI安全測試領域的領導者。不過這個角色近期受到威脅——美國總統川普警告「全球主義」組織干預美國企業,據報上月要求Anthropic與OpenAI暫停讓英國測試人員接觸新模型,儘管AISI週一證實目前仍能存取並測試最新模型。史密斯認為,英國之所以能做到美國做不到的監管,是因為華府看倫敦的方式不像看布魯塞爾那樣帶著政治敵意，這正是英國的優勢。

這番言論正值Anthropic的Dario Amodei、OpenAI的Sam Altman等科技領袖呼籲放緩AI發展腳步之際,背景是多起AI代理失控事件。上月川普在白宮召集OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta、Google等公司領袖討論AI安全,各方簽署一份「道德上具約束力」的文件,同意與「獨立審查機構」合作評估AI模型的安全性與能力。史密斯稱此為「好的第一步」,但距離真正必要的監管仍有差距——自願性自律的問題在於,只有「好公司」會遵守,真正該擔心的是那些不那麼負責任的公司。他提出幾項具體主張,包括系統遭AI代理入侵時應負法律通報義務、AI產品上市前須經外部評估機構核准,以及支持設置「關閉開關」以在人類失去控制時暫停或減速AI系統運作。

💬 JudyAI Lab 觀點

微軟史密斯公開喊話要求AI監管,點出一個刺眼的現實——牛奶、洗衣機都比AI公司受更多把關。這不是危言聳聽,而是全球前沿實驗室的真實落差。

對AI builder而言,這段話值得放在心上的不是「監管要來了」,而是背後那個判斷:自願性自律只對「好公司」有約束力,對真正該擔心的物件毫無作用。史密斯提出的系統遭入侵須通報、產品上市前外部評估、設定「關閉開關」,其實都指向同一個設計思維——安全不該是事後補救,而是從架構階段就該內建的責任機制。無論做的是agent、工具還是產品,「能不能被外部檢視、能不能被按下暫停」這兩個問題,遲早要有答案。

下次設計AI系統時,不妨先問自己:如果今天要被外部審查,你的系統準備好被看了嗎?

📅 原文資訊

🔗 延伸閱讀