All sitesNewsBridge The news, translated and compared
Back to iThome

AMD正式推出第6代EPYC伺服器處理器,首波上市產品為SP7平台,主打AI資料中心與企業運算市場

iThomeText
Open the original article

Article text

19 paragraphs · Tap (click) a word or select text to translate · Tap a word or select text to translate

AMD今天(11/10)宣布第6代EPYC伺服器處理器正式上市,首波推出採用SP7平台的產品,採用新的Zen 6架構,瞄準AI資料中心、雲端服務、高效能運算(HPC)以及企業關鍵應用。AMD表示,第6代EPYC的定位不只是提供傳統CPU運算能力,而是成為AI基礎設施中協調GPU、管理資料流程與執行企業應用的重要運算核心。

此次上市的第6代EPYC SP7,是代號Venice產品家族首批正式上市的平臺。AMD強調,AI工作負載正在改變資料中心架構,單一AI流程可能同時涉及AI Agent執行、模型呼叫、資料檢索、程式執行,以及與資料庫和企業應用互動,因此CPU需要更高核心密度、記憶體頻寬與I/O能力,來支撐整體AI基礎架構運作。

AMD運算與企業AI事業群資深副總裁暨總經理Dan McNamara表示,AI正在擴大CPU在資料中心各層級的角色,第6代EPYC以x86架構為基礎,依照不同工作負載選擇適合的CPU配置,以執行更多AI Agent、維持加速基礎架構運作,以及支援企業關鍵應用。

第6代EPYC SP7採用Zen 6架構,提供最多256核心、512執行緒,針對AI、雲端、高效能運算與一般企業工作負載推出不同最佳化版本。AMD表示,新一代EPYC處理器可依據不同任務需求,在核心密度、時脈頻率、記憶體頻寬與能源效率之間取得平衡。

在硬體規格方面,第6代EPYC SP7支援高速記憶體與新一代I/O技術,包括DDR5記憶體、MRDIMM,以及PCIe Gen 6與CXL等高速互連,以改善AI工作負載中的資料搬移效率,加速CPU與GPU、儲存設備及其他加速器間的傳輸。

如同AMD在先前的大型活動中所強調的,該公司認為未來資料中心不會只有單一類型AI運算,而會同時存在多種CPU角色,包括一般企業服務、GPU主機節點(Host CPU),以及執行AI Agent的Sandbox環境,因此第6代EPYC設計以不同核心數、頻率與密度配置,以滿足不同AI部署需求的選擇。

AMD宣稱其第6代EPYC與競爭產品比較,在通用伺服器運算方面,搭載第6代EPYC 9996的系統,相較Nvidia Vera CPU平臺高出3.7倍效能;而相較Intel Xeon 6980P平台也有最高2.2倍效能。

針對AI Agent工作負載,第6代EPYC依不同AI運算角色最佳化。其中高頻率Host Node版本最高可達5.3GHz,可提供最高1.8倍的LLM輸出吞吐量;高密度版本可提升單CPU瓦數下可支援的Agent數量。

依照AMD的測試,該處理器在Agent Sandbox環境中,每CPU瓦數支援的Agent數量,要比Nvidia Vera最高提升約3.3倍,較Intel Xeon 6980P最高提升2.5倍。

除了單顆CPU效能,AMD此次也將第6代EPYC延伸至機櫃級AI基礎架構。AMD推出Helion Agentic AI Rack架構,讓企業可依照需求選擇CPU與GPU比例、散熱方式與連接架構,用於大規模Agent部署。

目前搭載新處理器的平臺已開始出貨,AMD稱微軟Azure與Oracle Cloud Infrastructure(OCI)將導入第6代EPYC雲端服務。其中,Azure用於AI資料處理、Agentic AI與HPC等工作負載,而OCI Compute E7則將採用第6代EPYC支援企業應用與AI模型周邊CPU運算需求。

這次上市的第6代EPYC SP7,是Venice產品家族中的第一款正式推出平臺。而在今年7月Advancing AI活動中,AMD已揭露,第6代EPYC 9006系列並非單一處理器,而是針對AI資料中心不同角色,規畫SP7、SP8、EPYC 9006X SP7,以及EPYC 9006 LP等不同版本。

今年7月舊金山的活動中,AMD揭露第六代EPYC處理器的產品家族。

AMD認為,隨著Agentic AI興起,資料中心的CPU工作不再只是傳統企業運算,而會分別扮演執行AI Agent、支援GPU加速器、以及承載企業應用服務等角色,因此需要不同設計方向的處理器。

其中先上市的EPYC 9006 SP7定位為最高效能版本,針對AI Host Node、Agent Sandbox及高效能運算需求。

至於EPYC 9006 SP8定位為企業關鍵工作負載與代理式AI應用。相較SP7追求最高運算密度,SP8著重效率與部署彈性,適合邊緣運算、企業伺服器,以及受限於功耗或空間的小型叢集環境。根據AMD先前揭露的資訊,SP8提供8至128核心,以較低功耗設計滿足不同企業部署需求。

針對需要大量快取與記憶體頻寬的工作負載則有EPYC 9006X SP7。該版本延續SP7平臺架構,增加快取能力與頻寬設計,主要鎖定高效能運算(HPC)、科學研究與資料密集型應用。AMD指出,這類工作負載並非單純追求核心數,而需要以更大的快取與更高資料存取效率,加速複雜運算。

另外還有代號Verano的 EPYC 9006 LP版本,瞄準下一代AI Rack基礎架構。相較傳統伺服器CPU,Verano強調AI Host Node需求,透過整合LPDDR,提高記憶體頻寬與能源效率,以支援加速器密集型AI系統。

AMD在今年7月活動中曾指出,未來AI資料中心不會由單一CPU滿足所有需求,而會形成三類CPU角色:第一類是執行AI Agent的Agent Sandbox CPU,第二類是負責支援GPU叢集、持續供應資料的AI Host Node CPU,第三類則是支撐企業既有服務的General Purpose CPU。因此Venice將推出不同版本分別對應這些需求,反映AMD在AI時代的CPU產品策略。

For when the paragraph translations don't line up

Tap (click) a word to translate it, or select text to translate that passage straight away.