Dell推出搭4台英特爾或輝達頂級GPU的2U伺服器

在1年前舉行的SC22超級電腦期間,Dell針對高效能運算與人工智慧應用需求,發表PowerEdge XE系列伺服器3款機型,CPU均為英特爾即將推出的第四代Xeon Scalable系列,GPU區分為搭配SXM外形的Nvidia H100、A100,以及OAM外形的Intel Data Center GPU Max。

隨著今年1月英特爾第四代Xeon Scalable系列上市,Nvidia H100量產就緒,這幾款機型陸續登場。搭載8台SXM外形的Nvidia H100、A100的 XE9680 ,最先於3月亮相,在台灣、新加坡都有公開發表活動,產品的效能測試數據公佈在MLPerf Inference:Datacenter 3.0、3.1,以及MLPerf Training 3.1;搭載4台SXM外形的Nvidia H100的 XE8640 ,在5月登場,MLPerf Inference:Datacenter 3.1也列出此款機型的效能測試數據。

至於表定應該與上述兩款機型同在今年上半發表的XE9640,直到9月才釋出細部規格、內部結構等相關消息。

去年11月,Dell僅概述它是2U尺寸的GPU伺服器,將搭配搭載4台Intel Data Center GPU Max系列為一的OAM外形加速器主板,以及導入完全的直接液態冷卻(DLC)散熱機制;到了今年3月,Dell在台灣展出實機時,這款伺服器外形就如同一般的2U尺寸伺服器,較顯著的差異是機箱尾端接出兩條水管,而在現場展示的設備機箱內部,我們能明確認出位於後半段的處理器、記憶體配置,但前半段空空如也,極有可能將資料中心GPU設置在此。

9月底在台舉行的2023戴爾科技論壇,我們看到Dell現場特別陳列裝載GPU的3款PowerEdge XE機型,透過工作人員的解説與開箱展示,我們意外得知XE9640不僅如先前預告,可搭配Intel的GPU之餘,居然也能換成4台SXM外形的Nvidia H100。

而在液態冷卻元件方面,XE9640採用CoolIT的產品,並且能支援這家廠商提供的機櫃液態冷卻基礎架構,能提供用於42U與48U尺寸機櫃的XE9640歧管設置。

值得注意的是,在整體資源配置上,我們注意到Dell於9月公佈的技術規格指出,搭配不同GPU會影響XE9640支援的記憶體插槽數量。舉例來説,搭配Nvidia GPU,最大可使用32個記憶體插槽,能安裝到2 TB記憶體(單支64 GB),搭配Intel GPU,最大可使用16個記憶體插槽,能安裝到1 TB記憶體(單支64 GB)。若因為GPU不同而導致整台伺服器的記憶體擴充性受限,恐怕會嚴重影響用户搭配Intel GPU的意願。

關於實際導入XE9640的案例與XE9640的效能表現,11月初適逢SC23大會舉行,公佈全球500大超級電腦排行榜,有一座採用XE9640的新進系統上榜,那就是英國最快的超級電腦「Dawn」,以第一階段的狀態拿下第41名,是由劍橋大學、英國研究創新局、Dell、英特爾聯合發展的,採用Intel Data Center GPU Max 1550。

AI效能測試結果 MLPerf Inference: Datacenter 3.1 也在此時公佈,上面首度揭露XE9640的數據,搭配的GPU是Nvidia H100,若與同樣搭配4台Nvidia H100的Dell PowerEdge XE8640相比,所差無幾,XE9640僅在gptj-99、gptj-99.9這兩組大型語言推論項目勝出,或許是因為XE8640可搭配更多台固態硬碟。

產品資訊

Dell PowerEdge XE9640
●原廠:Dell
●建議售價:廠商未提供
●機箱尺寸:2U
●處理器:2顆,第四代Xeon Scalable系列(最高搭配56核心機型)
●記憶體:32個DDR5-4800插槽,最大可擴充至2 TB
●儲存配置:4台2.5吋NVMe固態硬碟+2台M.2 NVMe固態硬碟(BOSS-N1)
●搭配GPU:Nvidia HGX H100 4-GPU,4個SXM5外形GPU,或是Intel Data Center Max GPU 1550,4個OAM外形GPU
●I/O擴充介面:4個PCIe 5.0 x16(2個全高半長、2個矮版半長)
●電源供應器:4台2800瓦(支援2+0、2+1備援、2+2備援)

【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】