📰 重點摘要

Nvidia於本週四推出新一代開放權重模型,主打「全天候運作的AI代理」與「邊緣運算」場景,分為兩個層級。企業端主力是Nemotron 3.5 Super VL,參數規模達1200億,雖比Nemotron 3 Ultra的參數量少,但Nvidia宣稱在指令遵循與工具使用任務上能達到相近準確度。另一端則是兩款輕量化Bolt模型,專為搭載Nvidia RTX Spark晶片的新款AI PC,以及DGX Spark工作站設計,目標客群為消費者、工程師與企業知識工作者,目前正透過微軟、戴爾等合作夥伴陸續上市。

Nvidia聲稱,經過特定代理任務後訓練後,Super VL在文件智能、財務會計、科學實驗、醫療保險理賠、資安攻擊防禦等任務上,執行速度優於Anthropic與OpenAI的競品模型(包括Opus 5、GPT 6.1 Sol、Luna、Astra)。該公司並列出多家採用Super VL的大型企業客戶,包括Skydance、EY、Ramp、Crowdstrike、Perplexity與Salesforce。

Nvidia開放模型軍火庫背後有更大的策略考量：隨著主要AI實驗室開始轉向AWS Trainium、Cerebras等其他晶片廠商,甚至自行研發晶片,Nvidia正加碼押注「企業自建資料中心、自跑開放模型」的趨勢,強調企業可用自家資料對Super VL進行後訓練,部署在自有基礎設施上,完全掌握訓練成果。同時透過PC端小模型布局,嘗試推動消費級AI助理的普及,但文中也提到,面對越來越多AI助理想深入掌握用戶家庭、健康、財務等隱私資訊,消費者的疑慮仍是一大隱憂。

💬 JudyAI Lab 觀點

Nvidia這次把開放權重模型切成企業大模型跟PC端輕量模型兩條線,訊號很清楚:晶片廠不甘心只賣硬體,要把訓練跟部署的話語權一起拿回來。

對AI builder來說,真正值得注意的不是引數規模的比較,而是Nvidia強調的「企業可用自家資料後訓練、部署在自有基礎設施上」這個選項。隨著主要AI實驗室開始把運算需求分散到不同晶片供應商、甚至自研晶片,開放權重模型加自建部署正在變成跟訂閱API並列的第三條路,企業能完全掌握訓練成果。但消費端小模型要普及,使用者對AI助理深入掌握家庭、健康、財務隱私的疑慮,不會因為模型變輕量就自動解決。

如果你正在評估LLM部署方案,這是把「自建或訂閱」重新攤開來算一次成本跟掌控權的好時機。

📅 原文資訊

🔗 延伸閱讀