Arm AGI CPU 震撼登場:力解代理式 AI 算力瓶頸,單機架核心數飆破 4.5 萬

全球半導體 IP 巨擘 Arm 近期不僅宣布跨足實體晶片製造,其雲端 AI 事業部執行副總裁 Mohamed …

11 分鐘

Read Time

全球半導體 IP 巨擘 Arm 近期不僅宣布跨足實體晶片製造,其雲端 AI 事業部執行副總裁 Mohamed Awad 更進一步揭露首款自製處理器 Arm AGI CPU 的技術細節。這款基於 Arm Neoverse 平台打造的量產級產品,核心目標是解決「代理式 AI」時代下,CPU 在資料中心協調運算過程中日益凸顯的算力瓶頸,預示著 AI 雲端基礎設施正邁向「Arm 原生」的新紀元。

事實陳述:Arm AGI CPU 的設計與效能

Arm AGI CPU 是一款專為高效能雲端 AI 運算量身打造的處理器,其設計理念徹底顛覆傳統伺服器架構。Mohamed Awad 強調,為應對代理式 AI 對算力的龐大需求,Arm 重新設計了伺服器的參考架構,透過極致的機架密度與多執行緒效能,旨在提供超越 x86 架構系統兩倍以上的單機架運算實力。這款處理器從運作時脈、記憶體到 I/O 架構,都為了支援「高密度機架佈署」與「大規模平行運算」而量身訂做,確保在持續高負載下仍能維持穩定且高效的運作。

為展現 AGI CPU 的驚人潛力,Arm 釋出了多種硬體參考配置。首先是標準的 1OU 雙節點氣冷伺服器設計,每個刀鋒伺服器包含兩顆 AGI CPU,提供 272 組運算核心。若將 30 個此類刀鋒伺服器塞滿一個 36kW 的氣冷機架,總核心數即可達到 8160 個。更令人矚目的是,Arm 與 Supermicro 合作開發的 200kW 液冷極端配置,單一機架能容納 336 顆 Arm AGI CPU,總核心數甚至能突破驚人的 45000 個。這般規模的運算密度,無疑是為了解決代理式 AI 對協調算力的渴求。

背景補充:代理式 AI 如何催生算力瓶頸

你可能會好奇,為何 CPU 會突然成為 AI 運算的瓶頸?Mohamed Awad 解釋,過去的運算瓶頸往往是「人類」本身,我們的輸入速度決定了系統的執行節奏。然而,進入「代理式 AI」時代後,情況徹底改變。軟體代理能夠 24 小時不間斷地自主協調任務,與多個大型語言模型互動,並做出即時決策。在這種持續運作且極度複雜的環境中,CPU 的角色不再只是 GPU 的配角,它必須同時管理數以千計的分散式任務、調度加速器、管理記憶體與儲存,甚至處理海量 AI 代理之間的「扇出」 (fan-out) 協調任務。

當運算負載呈指數級飆升時,傳統 x86 架構 CPU 在持續高負載下,往往會出現核心爭用與效能衰退等問題。這正是 Arm 決定親自下場打造 AGI CPU 的核心原因。Arm 並未選擇在單顆 CPU 的絕對算力上與 x86 競爭,而是利用其架構的「高能效比」與「高核心密度」,將戰場直接拉高到「機架級別」。對於雲端服務商而言,在既定的電力與散熱限制下,如何塞入更多不降頻的算力,才是他們最關心的。Arm AGI CPU 正是瞄準了這個痛點,以其卓越的機架級效能,對比受限於發熱與功耗的 x86 架構系統,展現出顯著優勢。

市場反應與生態系:定義下一代硬體標準

值得注意的是,Arm 此次不單是推出晶片,更企圖直接定義下一代伺服器的硬體標準。為加速生態系的採用,Arm 宣布推出符合開放運算計畫 (OCP) DC-MHS 標準尺寸的「Arm AGI CPU 1OU 雙節點參考伺服器」。Arm 計畫將這套伺服器設計、支援的韌體、系統架構規格、除錯框架及診斷工具,全數貢獻給 OCP 開放運算社群,這無疑是在為整個 AI 產業鋪設一條名為「Neoverse」的高速公路。

目前,Arm AGI CPU 已獲得包含 Meta、OpenAI、Cerebras、Cloudflare 等業界巨頭的採用承諾。同時,合作夥伴華擎、聯想與 Supermicro 也已開始接受搭載 AGI CPU 商業系統的訂單。這顯示市場對於 Arm 在 AI 基礎設施領域的野心與實力給予了高度肯定,也意味著 x86 陣營在 AI 伺服器市場接下來將面臨最嚴峻的挑戰。

About the Author

AF themes

Easy WordPress Websites Builder: Versatile Demos for Blogs, News, eCommerce and More – One-Click Import, No Coding! 1000+ Ready-made Templates for Stunning Newspaper, Magazine, Blog, and Publishing Websites.

BlockSpare — News, Magazine and Blog Addons for (Gutenberg) Block Editor

Search the Archives

Access over the years of investigative journalism and breaking reports