📰 重點摘要

Y Combinator執行長Garry Tan公開表態,不希望監管機構介入中國AI實驗室對頂尖模型進行「蒸餾」(distillation)的行為,他甚至主張美國也應該建立自己的蒸餾機制。蒸餾是指透過大量提問另一個模型來學習其運作與推理方式,業界普遍且合法用於訓練新模型。Tan在CNBC訪問中表示「我什麼都不會做」,並向TechCrunch進一步解釋,他希望美國規模較小的開放權重AI實驗室,也能對美國的頂尖AI實驗室採用同樣的訓練技術,讓美國擁有更豐富、非中國背景的開放權重模型選項。這番言論的背景是Anthropic本週發布第二份報告,指控中國實驗室從事「非法蒸餾攻擊」,隱藏身分並利用詐欺與竊取的憑證進行未經授權的蒸餾,Anthropic執行長Dario Amodei此前也曾公開呼籲美國監管機構打擊蒸餾行為。Tan澄清自己並非主張美國實驗室使用竊取的憑證,而是應該光明正大地「走前門」取得資訊。他的論點有兩層:一是他認為AI實驗室規範客戶如何使用API取得的資訊本身就是過度限制;二是他指出,那些封閉模型的實驗室當初訓練模型時,同樣未經許可大量擷取人類知識與受版權保護的內容。他認為政府應該推動「訓練自公共資料的智慧,本質上更該是一種公共財,而非被服務條款鎖起來的資源」。Tan期望開放權重實驗室與頂尖實驗室之間能維持平衡,並直言真正的AI「末日情境」是所有頂尖AI能力最終集中在單一封閉、獨佔的公司手中。

💬 JudyAI Lab 觀點

我們常認為蒸餾這件事只發生在別人身上,Y Combinator執行長Garry Tan這次公開唱反調,反而讓討論回到「規則對誰有利」這個更根本的問題。

蒸餾本質上是透過大量提問來學習另一個模型的推理方式,業界一直普遍使用。Tan認為,若美國一邊靠監管封鎖中國實驗室蒸餾頂尖模型,一邊卻不允許美國自己的開放權重實驗室對美國頂尖模型做同樣的事,這種雙重標準並不合理。他也點出一個常被忽略的矛盾:那些封閉模型當初訓練時,同樣大量擷取了未經授權的公開資料與受版權保護內容。對AI builder而言,這提醒我們,任何「安全」或「合規」論述背後,往往同時是一種市場地位的保護機制,值得多問一句「這規則實際上鞏固了誰的優勢」。

下次看到「模型能力該不該被限制取用」的爭論時,不妨先想:規則若成立,誰會因此更難被追上。

📅 原文資訊

🔗 延伸閱讀