OpenAI自研晶片Jalapeño效能輾壓NVIDIA?實測數據揭曉,1.7 exaFLOPS算力震撼業界

美國晶片盛會Hot Chips 2026上,OpenAI首度揭露自研AI晶片「Jalapeño」的完整效能數據…

13 分鐘

Read Time

美國晶片盛會Hot Chips 2026上,OpenAI首度揭露自研AI晶片「Jalapeño」的完整效能數據。這款與博通(Broadcom)攜手打造的客製化加速器,以單一機櫃128顆晶片、完整Pod達2,048顆的部署規模,在特定模型推論任務上,宣稱能比NVIDIA GB200 NVL72與GB300 NVL72機櫃系統多承載1.5倍至1.9倍的AI工作量。一場運算架構的典範轉移,正悄然上演。

不只服務自家模型:Jalapeño的通用野心

在Hot Chips會場上,OpenAI硬體產品負責人Richard Ho的簡報標題直接點破外界猜測。他說,這款晶片拿了三款模型來測試——自家gpt-oss-120b、DeepSeek-R1,以及Kimi K2.5。「在我們嘗試的這3款模型,證明了這套架構不僅適用於內部模型,同樣也適用於其他模型。」他強調,「這是一款通用型、極具彈性的AI加速器。」

這句話背後有兩個層次。第一,OpenAI不想被貼上「封閉生態系」的標籤;第二,他們在晶片設計之初就預留了架構彈性。128顆晶片的配置,具備1.7 exaFLOPS的4位元運算能力,以及27.5TB的HBM4記憶體,每顆封裝的記憶體頻寬高達15.4TBps。數字會說話,這組規格擺明衝著NVIDIA的機櫃級解決方案而來。

延遲砍半、功耗更低的硬實力

更讓在場半導體分析師眼睛一亮的,是延遲表現。根據半導體研究機構SemiAnalysis的InferenceX基準測試,OpenAI聲稱Jalapeño在超低延遲情境下,測試表現快上2.1倍至4.1倍;端到端延遲則比對手平台低了1.7倍至3.6倍。低延遲在AI推論場景代表什麼?代表聊天機器人更少「轉圈圈」、即時語音回應更自然、影像生成更流暢——這些都是使用者每天會抱怨的痛點。

有趣的是功耗數據。Jalapeño的額定功耗為700W,但在測試工作負載中測得的持續功耗,其實保持在550W或更低。也就是說,它在更省電的狀況下,推論吞吐量反而壓過NVIDIA的旗艦機櫃系統。這對資料中心營運商來說,直接影響電費帳單和散熱成本,不是紙上談兵的規格競賽。

編輯觀點:從產業面來看,Jalapeño的亮相不只是「OpenAI有晶片了」這麼簡單。它釋放了一個關鍵訊號:AI模型開發商正在從「被硬體綁架」轉向「自主定義運算」。博通在其中扮演的設計服務角色,更暗示了未來AI晶片市場將走向高度客製化的「合作設計」模式。對NVIDIA而言,真正的威脅或許不是效能被超越,而是客戶開始掌握晶片設計的話語權。不過話說回來,OpenAI自己也坦承產能遠遠跟不上需求,短期內黃仁勳的鐵桶陣依然穩固。

AI協助開發晶片:加速迭代的飛輪效應

Jalapeño還有一個很少被討論的亮點:它有一部分是在AI的輔助下完成設計的。Richard Ho透露,運用AI讓整個開發流程比以往更加迅速,「我們得以在晶片塞入更多的運算能力。」這形成了一個正向飛輪——用AI設計更好的晶片,再用更好的晶片訓練更強的AI。

這種「AI加速設計AI」的循環,直接反映在產品藍圖上。根據Ho的說法,Jalapeño第二代已進入深度開發階段,甚至第三代也在進行中。換句話說,第一代晶片還沒正式量產,下一代已經在實驗室裡跑了。這種迭代速度,在半導體業界相當罕見。

不賣晶片、不自絕於NVIDIA:OpenAI的務實策略

當媒體問及是否會對外銷售Jalapeño時,Richard Ho的回應很直接:「OpenAI內部有著相當龐大的運算需求,要滿足這些需求需要大量的運算資源,我們光是要有足夠的量都相當吃力。」言下之意,短期內不會有「AI晶片零售商」這個角色。

更重要的是,OpenAI並未打算與NVIDIA劃清界線。Richard Ho明確表示:「這是我們整體運算資源策略的一部分,策略上涵蓋NVIDIA、Cerebras等非常非常出色的合作夥伴。」他接著說,「我們有著相當龐大的運算需求,而我們不可能一次就全部滿足。」多供應商策略、自有晶片、雲端彈性調度——這套組合拳,才是OpenAI真正的基礎設施思維

展望與影響:運算民主化的第一塊骨牌?

Jalapeño預計今年稍晚以有限數量部署在OpenAI資料中心,並在明年進一步廣泛部署。這意味著2027年我們才會真正看到這款晶片在實際服務中的表現。但無論如何,OpenAI已經證明了非傳統半導體公司也能在頂尖晶片設計上取得突破

接下來的觀察重點有兩個:一是第二代晶片是否會導入更先進的製程或封裝技術;二是微軟、Google、Amazon等雲端巨頭是否會加速跟進自研晶片的步伐。可以確定的是,AI運算的供應鏈不會再只有一個名字。這場競賽,才剛進入第二回合。

你的下一步思考:如果AI晶片設計門檻降低,未來會出現更多「模型公司自研晶片」的案例嗎?這對台灣半導體供應鏈(IP設計、封測、矽智財)是機會還是威脅?歡迎在腦中推演這個劇本——因為它發生的速度,可能比你想像的快很多。

本文改寫整理自公開新聞來源,原始報導由科技新報發布。

常見問題 FAQ

OpenAI Jalapeño晶片何時正式部署?

Jalapeño預計2026年稍晚以有限數量部署在OpenAI資料中心,2027年進一步廣泛部署。

Jalapeño的效能真的超越NVIDIA GB200嗎?

根據OpenAI在Hot Chips公開的SemiAnalysis基準測試數據,Jalapeño在特定模型推論任務上,峰值吞吐量比NVIDIA GB200 NVL72系統多出1.5倍至1.9倍,延遲則低1.7倍至3.6倍。

OpenAI會對外銷售這款自研晶片嗎?

短期內不會。OpenAI硬體負責人Richard Ho明確表示,內部運算需求龐大,自產晶片連自用都不夠,暫無對外銷售計畫。

Jalapeño的功耗表現如何?

雖然額定功耗為700W,但在實際測試工作負載中,持續功耗保持在550W或更低,能效表現優於許多同級競品。

Jalapeño是用AI設計的嗎?

部分設計流程確實運用AI輔助,這讓開發週期大幅縮短。OpenAI表示,第二代晶片已進入深度開發階段,第三代也已在進行中。

※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。

About the Author

AF themes

Easy WordPress Websites Builder: Versatile Demos for Blogs, News, eCommerce and More – One-Click Import, No Coding! 1000+ Ready-made Templates for Stunning Newspaper, Magazine, Blog, and Publishing Websites.

BlockSpare — News, Magazine and Blog Addons for (Gutenberg) Block Editor

Search the Archives

Access over the years of investigative journalism and breaking reports