NVIDIA 正式發表全新客製化高頻寬記憶體架構「NVHBM」，核心變革是將記憶體控制器直接移入 HBM 堆疊內部。這項設計打破了傳統 HBM 架構佔用主運算裸片面積的物理限制，官方數據顯示，對比標準 JEDEC HBM4E 規範，NVHBM 可提升最高 30% 的記憶體頻寬，同時降低 15% 的 HBM 運作功耗，並為處理器運算裸片騰出高達 25% 的額外可用矽片空間。
控制器內置：釋放 25% 運算裸片面積的關鍵
傳統 HBM 設計中，記憶體控制器必須配置在昂貴的先進製程運算裸片上，直接佔據了原本可配置運算核心與快取記憶體的寶貴空間。NVHBM 將控制器移入 HBM 堆疊內部，同步達成頻寬提升、功耗降低與面積釋放。另一個節省面積的關鍵在於客製化實體介面（PHY），傳統標準 HBM 介面佈線較寬，NVHBM 的客製化 PHY 則可將 I/O 面積相較 JEDEC HBM4E 最多縮減 67%。更窄的介面設計大幅簡化中介層走線佈局，整體封裝中可釋放高達 80% 的額外矽片空間。NVIDIA 強調，這對於需要在大型運算裸片周圍緊密整合多組 HBM 堆疊的旗艦加速處理器來說尤其關鍵。
5.2TB/s 頻寬的想像：三星 HBM4E 先蹲後跳
記憶體大廠三星日前在 Hot Chips 2026 大會上確認，正準備出貨單引腳傳輸速率達 16Gbps 的新版 HBM4E 晶片，較當前 14Gbps 版本明顯提升。現行 14Gbps 透過 2048 個引腳提供每堆疊 3.6TB/s 頻寬，16Gbps 版本則將單堆疊推向 4TB/s。若疊加上 NVHBM 宣稱的 30% 額外頻寬提升，單組 NVHBM 堆疊理論頻寬最高可達 5.2TB/s 左右。這串數字的意義是什麼？大概是目前市售主流 HBM 頻寬的兩倍有餘。
在能源效益方面，NVHBM 降低 15% HBM 功耗的意義，不只是省電，更為運算裸片爭取到可觀的散熱餘裕。這種優勢在超大規模資料中心特別明顯。NVIDIA 舉例，一座採用單顆 2000W XPU、總用電規模達 1GW（相當於一座核電機組）的頂級 AI 資料中心，透過 NVHBM 節省下來的電力與散熱餘量，理論上可額外支援部署高達 15,000 顆 XPU。算力密度的提升直接反映在投資報酬率上，這對資料中心營運商來說是切切實實的數字。
編輯觀點：從產業面來看，NVIDIA 這步棋下得相當精準。過去 HBM 控制器佔用運算裸片面積的問題，本質上是把昂貴的先進製程空間浪費在記憶體控制上。NVHBM 等於把這塊「黃金面積」搶回來給運算核心用。但話說回來，客製化架構意味著生態系的封閉化——未來伺服器廠商若想採用 NVHBM，恐怕得在記憶體供應商的選擇上更緊密地綁定 NVIDIA 的認證清單。這對三星、SK 海力士等供應商來說既是機會也是制約。真正值得追蹤的是，這種架構能否在消費級產品上落地？如果連遊戲顯卡都導入，那未來的顯卡定價策略恐怕會有一番新局面。
亞馬遜率先入列：供應鏈認證加速
為了加速產業落地，NVIDIA 表示 NVHBM 架構將開放接受多家記憶體晶片供應商的相容性驗證，簡化終端客戶與雲端服務商的供應鏈認證流程。目前亞馬遜旗下的客製化晶片設計部門 Annapurna Labs 已率先公開確認，將與 NVIDIA 合作推進 NVHBM 技術，未來可望導入 AWS 自研 AI 訓練與推論晶片陣容。這項合作透露的訊號很清楚：雲端巨頭對記憶體頻寬的飢渴，已經到了願意擁抱新架構來換取效能紅利的地步。
對一般消費者來說，NVHBM 的技術名詞或許遙遠，但它背後反映的趨勢其實和你我有關。AI 模型的規模仍在持續膨脹，訓練這些模型所需的記憶體頻寬與容量只會不斷增加。當資料中心靠 NVHBM 擠出更多算力，雲端服務的單位成本才有機會下降，終端使用者才可能用更實惠的價格享受到 AI 應用。說到底，這些晶片架構的演進，最終還是會回饋到你我每個月要付的雲端帳單上。
你覺得，當記憶體控制器移出運算裸片之後，下一塊被「瘦身」的瓶頸會是什麼？是封裝技術、散熱設計，還是供電架構？這題沒有標準答案，但值得在接下來的幾年持續觀察。
本文改寫整理自公開新聞來源，原始報導由T客邦發布。
常見問題 FAQ
NVHBM 跟傳統 HBM 的主要差異是什麼？
NVHBM 將記憶體控制器從運算裸片移入 HBM 堆疊內部，傳統 HBM 則是把控制器放在 GPU 或 XPU 上。這項改變釋放了最高 25% 的運算裸片面積，同時提升頻寬並降低功耗。
NVHBM 的頻寬提升對一般使用者有什麼影響？
對一般使用者而言，NVHBM 主要反映在雲端 AI 服務的成本與效能上。資料中心算力密度提升後，理論上可降低單位運算成本，間接影響 AI 應用的訂閱價格與反應速度。
哪些廠商已經確定採用 NVHBM 架構？
目前三星已確認正在準備出貨對應的 HBM4E 晶片，亞馬遜旗下的 Annapurna Labs 則是首家公開宣布將導入 NVHBM 技術的雲端晶片設計合作夥伴。
NVHBM 何時會實際量產出貨？
NVIDIA 尚未公布明確的量產時程。不過從三星 HBM4E 的 16Gbps 版本已在 Hot Chips 2026 宣布準備出貨來看，NVHBM 的實際產品化進度可能在未來 12 到 18 個月內明朗。
NVHBM 會讓 AI 晶片變得更貴嗎？
短期內導入新架構的初期成本可能較高，但長期而言，NVHBM 釋放的運算裸片面積與節省的功耗，可提升資料中心的整體投資報酬率，對終端價格的影響需視量產規模與供應鏈整合程度而定。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
