根據NVIDIA在今日發布的最新技術公告，新一代高頻寬記憶體技術NVHBM正式亮相。這項技術宣稱相較於標準HBM4E，能讓記憶體頻寬最高提升30%、HBM功耗降低15%，並為XPU運算晶片釋放多達25%的面積。而最引人注目的，是Amazon旗下Annapurna Labs率先成為首家參與技術合作的客戶，並預計從Trainium4開始導入。
記憶體控制器大搬家：從XPU移往HBM堆疊
傳統的HBM架構將記憶體控制器直接放在XPU晶片上，這就像在寸土寸金的市中心精華區蓋停車場——明明可以拿來蓋百貨公司（運算單元），卻被停車場（記憶體控制器）佔去寶貴空間。NVIDIA的解法很直接：把記憶體控制器從XPU上「搬走」，整合進3D HBM堆疊的基底晶片之中。
這項設計的巧妙之處在於，它讓XPU得以釋放最多25%的晶片面積，等於變相擴充了運算資源的「建地」。根據NVIDIA提供的數據，NVHBM是基於自家未來GPU將採用的相同技術，將客製化記憶體控制器直接整合進HBM基底晶片。這個「控制器搬家」的動作，一次解決了頻寬、功耗與面積三個維度的問題。
可以這樣理解：NVIDIA不只是在「改進」記憶體規格，而是重新定義了記憶體與運算晶片之間的界線。把控制器從運算晶片移走，背後的思維是：「運算晶片就該專心做運算」，這對兆級參數等級的AI模型來說，意義格外重大。
從產業面來看，NVIDIA這步棋下得非常精準。過去HBM的效能提升多半依賴製程微縮或堆疊層數增加，但NVHBM選擇從系統架構層級「重分配」資源——把控制器從XPU搬到HBM基底，讓運算晶片專心做運算。這種思維轉變，其實反映了AI硬體競爭已經從「單點突破」進入「系統級協同設計」的時代。值得注意的是，NVIDIA同時也建立了標準化的NVHBM實現方案，讓多家記憶體供應商都能提供，這意味著他們不只是賣技術，更在推動一個新的業界標準。
Annapurna Labs為何搶頭香？AWS的機架級佈局
Amazon旗下Annapurna Labs將成為NVHBM的首家技術合作夥伴，這不是一個偶然的選擇。Annapurna Labs副總裁Nafea Bshara在聲明中直言：「NVHBM代表了一種提升高頻寬記憶體效能與效率的全新架構方式。我們期待透過這項技術合作，為AWS未來的基礎設施設計帶來助益。」
根據NVIDIA的說明，Annapurna Labs將從Trainium4開始，在新一代Trainium晶片中支援NVLink Fusion。這代表Amazon的自家晶片將能與NVIDIA GPU在共通的機架級架構下協同運作。說白了，AWS不想只在NVIDIA GPU上「租算力」，他們要的是自己的晶片也能無縫接軌NVIDIA的生態系。
雙方合作的範圍不僅止於NVHBM，還擴及NVLink垂直擴充架構。這延續了AWS先前對NVLink Fusion的支援。對AWS而言，這筆合作能讓Trainium晶片在AI工作負載的效能與效率上更上一層樓；對NVIDIA來說，則是把影響力從單一的GPU供應商，延伸到雲端巨頭的基礎設施底層架構。
根據NVIDIA的規劃，NVHBM將由多家記憶體合作夥伴進行驗證並提供，讓NVLink Fusion客戶也能採用這項先進技術。這種「標準化實現方案」的策略，目的很明確：降低客戶的導入門檻，加快客製化AI晶片的上市時程。
對一般雲端使用者來說，NVHBM和Trainium4的組合可能在短期內不會有直接感受。但從基礎設施層面來看，AWS正在打造一個能夠同時運行自家晶片和NVIDIA GPU的統一機架架構。這意味著未來AI開發者在AWS上部署模型時，運算資源的調度將更有彈性，成本結構也可能因此產生變化。根據市場研究機構的數據，超大規模雲端服務商在AI基礎設施的資本支出在2026年仍維持雙位數成長，這塊大餅的競爭已經從單純的「算力軍備競賽」，轉向更細緻的系統效率最佳化。
AI代理與兆級參數時代的基礎設施思維
NVIDIA在公告中特別提到，隨著AI代理與兆級參數工作負載逐漸成為主流，AI基礎設施的效能不僅取決於運算能力，更取決於運算、記憶體、儲存、網路與軟體能否共同設計為一個統一的系統。這句話其實點出了整個產業的關鍵轉折。
當模型參數從千億級跨入兆級，單靠GPU的運算力已經不夠了。瓶頸往往出現在記憶體頻寬不夠寬、資料搬移速度跟不上、或是不同元件之間的溝通延遲過高。NVIDIA透過NVHBM擴展了NVLink Fusion，把記憶體技術也納入這個統一系統的架構中。簡單來說，他們在做的不是「賣更快的記憶體」，而是「讓整個機架變成一台超大電腦」。
Annapurna Labs的參與，等於是在這個統一架構中，為AWS留下了「客製化」的空間。這對其他超大規模雲端服務商（如Google、微軟）來說，無疑是一個訊號：NVIDIA已經準備好與客戶在更深層的技術環節上合作，而不只是賣標準化的GPU模組。
數據背後的啟示
回到這項技術的本質：NVHBM並不是一項「全新的發明」，而是一套「架構最佳化的策略」。透過把記憶體控制器從XPU移往HBM堆疊，NVIDIA在30%頻寬提升、15%功耗降低和25%面積釋放之間取得了新的平衡點。對晶片設計者來說，面積釋放的意義尤其深遠——多出來的25%可以拿來塞更多運算核心、加入專用加速器，或是提升快取容量。
從商業角度來看，NVIDIA選擇開放標準化方案、並與Amazon這樣的雲端巨頭深度合作，說明了這家公司的企圖心早已超越「GPU供應商」的定位。他們正在搭建一個從晶片、記憶體、互連到機架級系統的完整技術棧，而且願意讓客戶在這個架構中保有客製化的彈性。
值得追蹤的後續發展有兩個：一是其他記憶體供應商（如SK海力士、美光）何時跟進NVHBM的量產時程；二是Google和微軟是否會採取類似的合作模式，與NVIDIA在系統層級上建立更深度的技術綁定。無論如何，AI基礎設施的競爭已經進入「系統級對決」的新階段，單一元件性能的數字遊戲，恐怕已經不足以決定最終的勝負。
如果往後推演兩到三年，NVHBM這類架構創新可能會成為AI晶片設計的主流思維。原因很簡單：先進製程的成本越來越高，但系統級最佳化帶來的效益倍數卻可能更大。以NVHBM釋放25%面積為例，這相當於在不改變製程節點的情況下，為運算單元增加了四分之一的「可用土地」。對設計預算有限但又需要差異化產品的AI創新業者來說，這種「用架構換空間」的策略，可能遠比追逐下一代製程來得務實。NVIDIA把這個方案標準化並開放給合作夥伴，等於是把過去只有自家GPU才能享受的設計紅利，變成了整個NVLink Fusion生態系的共同資產。
參考資訊：本文數據與技術內容引自NVIDIA於今日（2026年8月27日）發布之官方公告，相關效能數據為NVIDIA實驗室測試結果，實際表現可能因系統配置與工作負載而異。HBM相關技術規格仍待記憶體合作夥伴量產驗證後確認。如需進行基礎設施升級評估，建議諮詢專業系統架構顧問。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
NVHBM與現有的HBM4E有什麼不同？
NVHBM將記憶體控制器從XPU晶片移到HBM的基底晶片中，這項架構改變讓記憶體頻寬提升30%、功耗降低15%，並為XPU釋放最多25%的晶片面積。
Amazon為什麼要參與NVHBM的技術合作？
Amazon旗下的Annapurna Labs希望透過NVHBM和NVLink Fusion，讓自家Trainium晶片能與NVIDIA GPU在共通機架級架構下協同運作，從Trainium4開始導入。
NVHBM什麼時候會正式量產？
NVIDIA表示NVHBM將由多家記憶體合作夥伴進行驗證並提供，具體量產時程尚未公布，將取決於合作夥伴的驗證進度。
NVHBM只支援NVIDIA的產品嗎？
NVHBM是為NVLink Fusion客戶設計的開放技術方案，Annapurna Labs已率先參與合作，其他NVLink Fusion客戶未來也可採用這項記憶體技術。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
