📰 重點摘要

Comma AI 創辦人、知名越獄駭客 George Hotz 近日發文，對一份名為《AI 2040：A計劃》的政策白皮書提出強烈批評。該白皮書由 AI Futures Project 撰寫，主張全球研究人員應集體同意將 AI 發展速度放緩長達 14 年，以換取人類整體的長遠福祉。

Hotz 的核心反對立場是：AI 進步不應為了「集體利益」而被統一管控。他認為所謂 AI「快速崛起」並迅速超越人類的末日情境在邏輯上站不住腳，真正的解法不是中央管制，而是讓 AI 模型高度貼近個別使用者的需求，由使用者本人在本地端掌控。他把這類「使用者對齊型 AI」比喻成一把槍——工具本身不會因為使用目的而拒絕服從，一個真正對齊使用者的 AI 應該能夠協助使用者訂購甲基安非他命實驗室的設備，或策劃任何使用者想做的事。他甚至表示願意為這個自由原則付出生命。

這篇報導的作者對此觀點持保留態度。他認同個人化、去中心化 AI 的想像有其吸引力，但指出任何涉及大量人口的系統，無論是社會、市場或科技產品，都無可避免地需要在個人自由與集體問責之間尋求平衡。純粹的個人利益對齊，意味著那些尚未受害的配偶或旁人的安全幾乎不被考慮在內，這顯然不是「只是自由與否」這麼簡單的二元選擇。

💬 JudyAI Lab 觀點

George Hotz公開炮轟「AI放緩14年」的政策白皮書，讓「誰來決定AI發展速度」這個問題從技術社群搬上政策檯面，這是我們都應該正視的根本分歧。

這場爭論的核心張力，是AI到底應該對齊「個別使用者的意志」還是「更廣泛的社會安全」。Hotz的「使用者對齊型AI」邏輯推到極端，等於主張AI應完全服從使用者、不論使用目的。這對AI builder來說是個設計哲學問題：每個使用邊界的設定，都是一種隱性的價值判斷。報導作者也點出：個人化AI有其吸引力，但使用者規模夠大時，系統效應就會溢位個人邊界，「誰的利益被涵蓋、誰的被排除」不是自由與否的二選一，而是每個設計者遲早要回答的問題。

下次設計AI產品的使用邊界時，值得先問：這條限制保護了誰，又讓誰承擔了代價？

📅 原文資訊

🔗 延伸閱讀