黃仁勳用一場記憶體大缺貨,改寫了AI晶片的比賽規則——只是贏家未必是記憶體廠?

當輝達內部測試文件曝光的那一刻,半導體圈所有人都在問同一個問題:下一代旗艦晶片Rubin Ultra的記憶體,…

17 分鐘

Read Time

當輝達內部測試文件曝光的那一刻,半導體圈所有人都在問同一個問題:下一代旗艦晶片Rubin Ultra的記憶體,怎麼從1 TB直接砍到192 GB?連現行Vera Rubin的288 GB都比不上,這不是降級,什麼才是降級?

數字會說話。HBM4E的產能到了2027年依然緊繃到讓人頭皮發麻。如果輝達堅持每顆晶片都要塞滿1 TB,那現有記憶體總產量只能餵飽極少數頂級客戶。但把單顆降到192 GB,同樣的記憶體總量就能產出將近五倍的晶片數量——對微軟、Meta這些急著擴充算力軍備的超大客戶來說,拿到五台「瘦一點」的伺服器,絕對比搶到一台「滿血頂配」更有作戰價值。

說真的,這不是輝達第一次這麼幹。之前Vera CPU的總記憶體容量就從54 TB妥協到28 TB,理由一模一樣:全世界都在搶記憶體,供應商真的交不出那麼多貨。只是這次發生在旗艦AI晶片上,市場的焦慮感直接被放大了好幾倍。

表象:降規格是產能妥協,還是策略轉彎?

官方說法總是漂亮的。輝達對外表示:「我們正持續優化運算、網路和記憶體的組合,為客戶提供最佳的效能和效率。」這句話拆開來看,其實藏了兩層意思。第一層很現實——記憶體就是最大瓶頸,不降規格就出不了貨。第二層則更有趣:輝達似乎在藉這個機會,重新定義「效能」的衡量標準。

很多人以為AI晶片的戰鬥是單卡對單卡的軍備競賽,誰的算力強、誰的記憶體大誰就贏。但輝達這次的調整,等於公開宣示:比賽規則已經變了。當單張晶片記憶體縮水,輝達靠的是NVLink高速互連技術,把576顆晶片串成一個超級運算整體,在軟體眼中就像一顆記憶體破100 TB的巨無霸晶片。單卡192 GB是問題嗎?串起來就沒事了。

有趣的是,記憶體少了,發熱和耗電也跟著降。在單櫃動輒數百千瓦的資料中心裡,這反而是機房營運商巴不得看到的結果。省電、降溫、還能拿到更多晶片——這筆帳怎麼算都不虧。

真相:毛利率保衛戰,才是藏在背後的關鍵

但真正讓業界暗叫一聲「高明」的,是這件事對輝達財務結構的影響。來算一筆帳:到了Vera Rubin這一代,記憶體成本已經占整台伺服器機櫃的25%到30%,在某些AI晶片組中,高頻寬記憶體甚至占了高達60%的成本。如果輝達堅持每顆都塞最貴的HBM4E,意味著客戶買設備的錢,很大一部分會直接流進SK海力士、三星與美光的口袋。

黃仁勳怎麼可能讓這種事發生?

從產業面來看,輝達這步棋真正的用意,是趁著記憶體缺貨的機會,把利潤從記憶體廠商手中拉回自己陣營。用更少的高階記憶體、搭配中階記憶體分層分工,加上NVLink生態系的軟硬整合,輝達既保住了出貨量,也守住了毛利率。說白一點,記憶體三巨頭本來以為缺貨紅利可以吃到飽,現在看來,菜單被輝達偷偷修改了。

記憶體縮水對AI運算的影響,其實沒有一般人想像的那麼恐怖。AI運作分兩階段:「理解問題」階段需要大量運算,對記憶體容量依賴相對低;「生成回答」階段才需要大量記憶體來維護上下文。輝達的解法很巧妙——把任務分層,不同工作配給不同等級的記憶體。理解問題用Rubin CPX,配上便宜的一般記憶體;生成回答時暴增的暫存資料,則往下丟到一層新的快閃記憶體暫放。從晶片、網路到儲存重新分工,這才是輝達所謂的「優化組合」的完整面貌。

各方角力:超微跟也得跟,不跟也得跟

這套邏輯聽懂了,就能明白為什麼超微最近拼命在推自家的整機櫃方案,把72顆晶片塞進同一個機櫃架構。原因很殘酷:如果AI晶片的競爭只停留在「單張晶片」的規格表較量,超微完全有能力跟輝達平起平坐。但現在輝達把戰場拉到了機櫃層級,單卡記憶體不夠?用網路串聯來補。單卡算力差不多?我用CUDA軟體生態幫你最佳化。

超微如果只賣單張晶片,讓客戶拿傳統網路線自己拼湊,整體運作效率會被輝達遠遠甩在後頭。所以超微不得不跳進機櫃設計這個輝達已經深耕多年的領域,去攻克晶片串聯這塊硬骨頭。換句話說,輝達用一場記憶體缺貨,順手把對手的比賽場地也換了。

換個角度想,這對台灣伺服器代工廠和散熱模組廠來說,反而可能是利多。當客戶從比單卡規格轉向比整櫃系統效率,機櫃設計、散熱解決方案、高速傳輸介面的價值就被大幅拉高。這些剛好是台灣供應鏈的強項。記憶體廠商少賺的部分,或許有機會在系統整合這一環補回來。

深層影響:記憶體廠的紅利還在,只是天花板變低了

當然,這不代表記憶體廠商從此就沒戲了。因為輝達用同樣的記憶體總量造出更多晶片,整體市場對記憶體的總需求依然在成長。記憶體的結構性短缺預計會持續到2027年,定價權依然在供應商手裡。只是產品結構會有所轉變:過去那些預測「所有頂級晶片都會裝滿最高階記憶體」的過度樂觀模型必須修正,未來中階配置的產品占比會提高。

記憶體大廠們依然能享受市場缺貨的紅利,只是成長曲線會比最激進的預測稍微平緩一些——這對股價本益比已經拉很高的記憶體類股來說,可能是更需要留意的訊號。

如果往後推演兩年,輝達這次的降規格測試,或許會成為AI基礎建設史上一個重要的轉折點。它證明了當硬體瓶頸無法短期突破時,系統設計和軟體優化的價值可以被放大到什麼程度。對整個產業的啟示很明確:單一零組件的霸主地位,隨時可能被系統級的創新重新定義。投資人與其緊盯著HBM的報價波動,不如多花點時間理解機櫃級架構的演進速度——那才是決定下一回合誰輸誰贏的真正戰場。

未解之問

但有一個問題,到現在沒有人能給出確切答案:如果記憶體產能在2027年下半年真的順利開出來,輝達會把Rubin Ultra的記憶體規格調回1 TB嗎?還是說,到時候市場已經習慣了「系統級效能」的評比標準,高容量單卡反而變成一種規格上的炫耀,而非實際效用的必要條件?

另外,超微的整機櫃方案如果真的做起來了,輝達還敢像現在這樣大膽調整記憶體配置嗎?還是說,這場記憶體降規格實驗,本質上就是因為輝達知道競爭對手短期內追不上,才敢放手去做的策略豪賭?

這些問題的答案,恐怕要等到2027年Rubin Ultra真正量產出貨的那一刻,才會逐漸明朗。但在那之前,有一件事已經確定了:黃仁勳用一場記憶體大缺貨,把AI晶片的比賽規則徹底改寫了一遍。而這回合的贏家,顯然不只是那些賣記憶體的公司。

你覺得呢?當單卡規格不再是唯一信仰,你會為了系統級效能而接受記憶體縮水,還是堅持頂配至上?這不是單純的技術選擇,而是對整個AI基礎建設思維的根本考驗。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

輝達Rubin Ultra的記憶體規格到底改成多少?

根據近期產業消息,輝達內部測試版本將Rubin Ultra的記憶體從原本市場期待的1 TB HBM4E,降到了最低192 GB,比現行Vera Rubin的288 GB還低。

為什麼輝達要降低旗艦晶片的記憶體容量?

最直接的原因是HBM4E產能到了2027年依然非常緊張,降規格可以讓同樣的記憶體總量生產出約五倍數量的晶片,優先滿足超大客戶對整體算力的迫切需求。

記憶體縮水會影響AI模型的運算效能嗎?

輝達透過NVLink高速互連技術將576顆晶片串聯成運算整體,單卡容量不足可藉由共享記憶體池來彌補,同時透過任務分層將不同工作配給不同等級的記憶體,降低對最高階記憶體的依賴。

這對SK海力士、三星、美光等記憶體廠商有什麼影響?

記憶體廠商依然能享受市場缺貨的紅利,因為整體需求仍在成長,但過去「所有頂級晶片都會裝滿最高階記憶體」的樂觀預期需要修正,中階配置產品占比提高,成長曲線會比最激進的預測平緩。

超微(AMD)要如何應對輝達這次的規則改變?

超微正全力推進自家的整機櫃方案,將72顆晶片整合在同一個機櫃架構裡,因為如果不跟進系統級競爭,就會被困在單卡規格比較的舊框架中,被輝達的整合生態遠遠甩開。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。

About the Author

AF themes

Easy WordPress Websites Builder: Versatile Demos for Blogs, News, eCommerce and More – One-Click Import, No Coding! 1000+ Ready-made Templates for Stunning Newspaper, Magazine, Blog, and Publishing Websites.

BlockSpare — News, Magazine and Blog Addons for (Gutenberg) Block Editor

Search the Archives

Access over the years of investigative journalism and breaking reports