美光(Micron, MU)在 Hot Chips 2026 大會上拋出一個不算太意外的結論:高階記憶體供給問題,短期內無解。說不意外,是因為業界早就知道「記憶體牆」的存在,但真正讓現場半導體工程師臉色一沉的,是美光用實證數據表明——這道牆,正在以比預期更快的速度長高。
算力每兩年增 3 倍,HBM頻寬每年成長不到 2 倍
美光在 Hot Chips 2026 發表的演說中坦言,AI 算力每兩年成長 3 倍,但 HBM 頻寬每年擴展速度卻不到 2 倍。兩者之間的剪刀差,不是一個可以靠製程微縮或封裝堆疊就能輕易填平的鴻溝。
Hot Chips 是全球半導體與處理器領域最具權威性的頂級學術與產業年會,每年在美國史丹佛大學舉行,匯集全球頂尖的處理器、GPU、AI 加速器、記憶體與系統設計團隊。能在這個場合發表的數據,基本上就是業界公認的風向球。
所謂「記憶體牆」,指的是處理器運算速度飛快成長,但資料從記憶體傳輸到處理器的頻寬與速度卻嚴重落後,導致系統效能被資料傳輸速率拖累的瓶頸現象。這不是 AI 時代才冒出來的新問題,從 35 年前 Intel 80486 DX2 系列的 CPU 就已經開始了,當時的解法是靠晶片內倍頻技術、以及多層次快取來遮蓋外部記憶體速度跟不上。
只是沒想到,三十年過去,同樣的問題非但沒解決,還被 AI 大幅惡化了。
物理限制擺在眼前,堆疊層數不是無上限
記憶體業者不是沒有努力。HBM 的改朝換代速度已經明顯加快,JEDEC 甚至放寬了封裝高度限制,代表理論上可以堆疊更多層來拉高頻寬。但問題從來就不只是「能不能堆」,而是「堆了之後怎麼散熱」。
層數越多,發熱越集中,而高階記憶體對溫度又極度敏感。美光點出了一個殘酷現實:記憶體的物理限制,恐怕不是單一家公司能突破的,得靠半導體產業鏈上下游聯手,才有機會找到出路。
換句話說,短期內要期待 HBM 頻寬出現跳躍式突破,機率不大。這不是誰不努力的問題,是物理定律就擺在那邊。
美光的結論:除非AI系統碰到飽和點,否則記憶體供給無解
美光這份研究的結論很直接:除非 AI 的系統——包括軟體模型與硬體架構——對於 token(符元)的處理達到「效能停止」或「成本停止下降」的飽和點,否則高階記憶體在可見的未來,供給壓力只會愈來愈大。
白話文就是:只要 AI 模型還在追求更大的參數量、更長的上下文長度、更精確的推論結果,HBM 的需求就會不斷往上拉,而供給端的擴張速度明顯跟不上。這不單是半導體製造產能的問題,是整個 AI 架構設計與記憶體技術發展之間存在結構性失衡。
值得注意的是,這個現象不只影響 AI 伺服器。與 HBM 競爭消耗晶圓產能的(LP)DDR5,價格恐怕也將持續居高不下。對一般消費者來說,接下來幾年要買到便宜記憶體,可能不太樂觀。
【編輯觀點】這篇美光的研究,與其說是在「預警」,不如說是在「攤牌」。過去兩年,市場對 HBM 的關注幾乎都放在「誰拿到產能」「誰通過認證」,好像只要產能開出來,問題就解決了。但美光這次點出一個更根本的結構性問題:就算產能全開,頻寬的成長幅度仍然追不上 AI 算力的膨脹速度。這意味著,未來的 AI 軍備競賽,比的可能不是誰有更多 HBM,而是誰能在軟體架構上更有效率地「節省」記憶體頻寬。對台灣的記憶體供應鏈來說,這既是警訊,也是機會——誰能率先提出系統層級的散熱或封裝解方,誰就可能成為下一個世代的關鍵玩家。
業界其實心裡有數,只是不願說破
說真的,記憶體牆不是新聞。但美光選在 Hot Chips 這樣的場合,用內部研究數據公開證實「惡化速度比預期更快」,背後傳達的訊號很明確:這個問題不能再被當成「未來式」來看待了。
業界不是沒有嘗試過各種解法。從新型記憶體架構、封裝技術改良、到甚至是演算法層面的優化,大家都在找突破口。但美光的研究等於潑了一盆冷水——只要 AI 的 scaling law 還在繼續發威,記憶體頻寬的追逐戰就註定是場追不上的比賽。
有趣的是,美光並沒有在這場演說中提出一個「終極解方」。他們只是把問題攤開來,告訴全世界:這不是記憶體廠商單方面能解決的事。
接下來的戰場,恐怕不在晶圓廠
如果記憶體頻寬的擴展速度注定追不上算力成長,那接下來的競爭焦點,很可能會從「誰能生產更多 HBM」轉向「誰能用更少頻寬完成更多事」。這對 AI 晶片設計業者、系統整合商、甚至是模型開發團隊來說,都是全新的考驗。
換個角度想,這或許是好事。當硬體擴張碰到天花板,真正有價值的創新往往就會從軟體和系統架構冒出來。台灣在半導體製造和封裝領域具有全球領先地位,但面對記憶體牆這個系統級問題,接下來的投資與研發方向,可能需要更多跨域整合思維。
你怎麼看? 在記憶體頻寬追不上算力成長的現實下,你認為 AI 產業應該優先從哪個環節尋求突破?是更先進的封裝技術、還是從模型架構本身進行瘦身?歡迎在閱讀後思考這個問題——因為它關乎的不只是半導體產業的未來,也將決定你接下來幾年手上那台 AI 裝置的真實體驗。
本文改寫整理自公開新聞來源,原始報導由自由時報發布。
常見問題 FAQ
記憶體牆是什麼?為什麼 AI 時代會變得更嚴重?
記憶體牆是指處理器運算速度遠超過記憶體資料傳輸速度,導致系統效能被傳輸瓶頸拖慢的現象。AI 時代因為模型參數和上下文長度不斷擴增,對記憶體頻寬的需求暴增,但 HBM 頻寬每年擴張不到 2 倍,遠低於 AI 算力每兩年 3 倍的成長速度,因此惡化幅度更加劇烈。
美光在 Hot Chips 2026 提出的研究結論是什麼?
美光研究指出,除非 AI 系統對 token 的處理達到效能或成本停止下降的飽和點,否則高階記憶體(特別是 HBM)在可見未來的供給壓力仍無法緩解。同時,記憶體堆疊層數增加帶來的散熱問題,也是短期內難以克服的物理限制。
記憶體供給無解,對一般消費者會有什麼影響?
與 HBM 競爭晶圓產能的(LP)DDR5 記憶體價格,預計將持續居高不下,這代表一般電腦使用者未來幾年買記憶體的成本可能不會明顯下降。此外,AI 裝置的終端體驗也可能因為記憶體頻寬瓶頸,而無法充分發揮晶片的理論算力。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。



