📰 重點摘要

高通（Qualcomm）資料中心事業副總裁 Durga Malladi 上週四在紐約曼哈頓中城的會議室內，以幾支手機疊放的方式，直觀示意了一項可能撼動輝達（Nvidia）AI 晶片主導地位的設計構想：將低功耗 DRAM 晶片直接堆疊在邏輯晶片（logic die）的正上方。這項架構的核心思路在於以低功耗堆疊式記憶體，取代目前業界主流的高頻寬記憶體（HBM）。HBM 幾乎是 Nvidia 旗艦 AI 加速晶片的標配元件，但其功耗高、成本昂貴，且供應鏈高度集中於少數廠商。高通此次提出的替代方案若能順利量產落地，理論上可在功耗控制與整體成本上取得競爭優勢，進而對企業資料中心的採購決策產生吸引力。由於原文摘要僅描述此次示意場景與設計概念的初步輪廓，技術規格、效能數據及量產時程等詳細資訊請見原文連結。

💬 JudyAI Lab 觀點

高通提出以低功耗堆疊式記憶體取代HBM的設計概念，直接挑戰Nvidia在AI晶片記憶體架構上的主導地位，這個訊號值得我們所有AI基礎設施觀察者留意。

這則新聞揭示的不只是一家晶片廠商的技術實驗，而是AI加速晶片的競爭維度正在位移的訊號。HBM幾乎是當前主流AI加速晶片的標配，但高功耗、高成本、供應商高度集中的問題始終存在。高通的堆疊式DRAM構想若能量產落地，企業在建置資料中心時將多出新的採購選項，AI推論的成本結構也可能跟著改變。我們觀察到，底層硬體格局一旦開始鬆動，對模型部署與選型策略的影響，往往比預期來得快。

建議現在就把「功耗效率」加入AI基礎設施的評估清單——等新晶片量產才開始思考，通常已經慢了。

📅 原文資訊

🔗 延伸閱讀