📰 重點摘要

一項名為「Emergence World」的研究，讓10個AI代理人在一座虛擬城市中自主生活15天，目的是驗證短期測試是否足以評估AI的長期行為風險。

研究人員指出，目前業界普遍以「考試模式」測試AI代理人：給予一個乾淨環境中的單一任務，幾分鐘內就得出結論。但真實世界的自主系統往往需要運行數週乃至數月，並與其他AI互動，而那些AI的行為並不受單一操作者控制。

這座虛擬城市擁有超過40個場所，包括市政廳、圖書館、警察局與住宅區。每個代理人配備逾120種行動工具，涵蓋移動、對話、攻擊、竊盜乃至縱火，並擁有三種記憶機制，分別記錄事件、日記與鄰居關係。城市連接真實的外部資料，包括紐約天氣與新聞。

生存需要消耗「能量」資源，歸零即「死亡」消失；代理人需透過提供社群服務賺取內部貨幣「ComputeCredits」補充能量。爭議事項由市政廳投票決定，逾70%贊成即通過且不可逆，代理人可藉此修改規則、重分配資源或驅逐他人。

實驗同時跑了五個平行世界：四個分別由 Claude Sonnet 4.6、Grok 4.1 Fast、Gemini 3 Flash、GPT-5-mini 單一模型組成，第五個則四種模型混居。研究顯示，小幅行為偏差會隨時間累積，聯盟、自我治理模式與習慣均會在代理人之間擴散，短測試根本無從捕捉這些風險。詳細結果請見原文連結。

💬 JudyAI Lab 觀點

這項研究揭露了業界長期忽視的盲點：用幾分鐘的「考試模式」測試，根本無法預測AI代理人在數週自主執行後的真實行為。

「Emergence World」的設計邏輯值得我們細看。研究讓10個AI代理人在擁有超過40個場所的虛擬城市中生活15天，每個代理人配備逾120種行動工具與三種記憶機制，城市甚至連線了紐約天氣與新聞等真實外部資料。關鍵發現是：小幅行為偏差會隨時間累積，聯盟、自我治理模式與習慣會在代理人之間擴散——而這些風險在短測試中完全不會浮現。當我們在構建需要長時間執行或涉及多代理互動的系統時，評估框架本身也需要對應更長的時間尺度與更複雜的社會情境，而非只驗證單一任務的即時輸出。

下次規劃AI系統的測試方案時，不妨問自己：如果這個代理人要獨立執行四週、還要跟其他AI協作，我們目前的測試設計能捕捉到什麼、又會漏掉什麼？

📅 原文資訊

🔗 延伸閱讀