這幾年來,拜Nvidia推廣 BlueField系列資料處理器(DPU) 所賜,雖然帶動SmartNIC、IPU這類資料中心加速運算產品的發展,英特爾、AMD也因為併購FPGA廠商, 而加入提供這類解決方案的行列 ,但就實際使用案例及號召合作廠商支援等層面而言,仍是Nvidia BlueField這一脈取得較多成果。
從2023年3月開始,隨著 Nvidia宣佈BlueField-3量產消息 ,他們發展的資料處理器正式進入新的世代,5月上半,Nvidia不僅重申技術規格,也揭露更多產品細節。例如,以5款機型對應4大應用市場:若用於超大規模HPC/AI領域,可選擇B3240;用於一般HPC/AI領域,可選擇B3140H;用於雲端運算領域,可選擇B3210或B3220、B3210L或B3220L;用於儲存領域,可選擇B3220H。
5月底適逢台北國際電腦展期間,Nvidia宣佈BlueField-3可支援3種產品搭配型態。首先是 新一代融合式加速卡AX800 ,內建A100 GPU與BlueField-3;第二是 網路整合平台Spectrum-X ,組成的要件包括:採用Spectrum-4晶片的乙太網路交換器,以及BlueField-3 SuperNIC;第三是整合多座機櫃的 AI超級電腦系統DGX GH200 ,採用的關鍵加速運算平台涵蓋Grace Hopper Superchip、ConnectX-7、BlueField-3。
而在8月出爐的 網際網路通訊O-RAN年度產品獎 ,獲獎的Nvidia MGX 200(Gen AI + 5G on NVIDIA Accelerated Cloud)解決方案,不僅搭配Grace Hopper Superchip GH200,也包含BlueField-3。
10月召開OCP全球年度高峯會期間,Nvidia揭露Spectrum-X更多細節,此時呈現的平台組成除了提及Spectrum-4交換器,當中搭配的資料處理器突然改以BlueField-3 SuperNIC稱呼。
關於這個新名號,在11月舉行的超級電腦大會SC23之後,Nvidia解釋何謂SuperNIC,並説明BlueField-3 DPU與BlueField-3 SuperNIC之間的異同。
根據他們的定義,BlueField-3 SuperNIC著重在提供強大的網路效能,是專為採用乙太網路、支援超大型AI工作負載的雲端服務環境而設的產品,每台伺服器可配備8張SuperNIC(GPU與SuperNIC的數量比例為1比1),可針對多台GPU系統之間的東西向存取,提供最高達到400Gb/s的超快速網路連線能力;SuperNIC也運用了RoCE(RDMA over converged Ethernet)技術,可經由乙太網路的傳輸,橫跨多台主機進行遠端記憶體直接存取,並且能提供整個技術堆疊的AI最佳化機制,囊括運算、網路、儲存、系統軟體、通訊等領域的程式庫,以及應用程式框架。
至於BlueField-3 DPU,著重在運算效能,主攻資料中心基礎架構的運算處理,提供卸載、加速、隔離機制,每台伺服器可配備1至兩張DPU,可針對多台GPU伺服器系統之間的南北向存取,提供最佳化配置,能支援安全、零信任的管理,資料儲存的加速存取,以及IT基礎架構執行規模的彈性擴充。
除此之外,BlueField-3 DPU與BlueField-3 SuperNIC由於都具有安全隔離運作的能力,因此,均可支援多租户架構的資料中心,可確保同時負擔的每個工作與租户資料,均能個別運作、互不幹擾,提供可預測的效能,兼顧資料機密防護。
到了今年2月,Nvidia發布BlueField應用程式框架DOCA的2.6版,正式支援Spectrum-X搭配BlueField SuperNIC參考架構。
而在產品款式的供應上,根據Nvidia公佈的BlueField-3網路平台用户指南,也清楚區隔出兩大類款式。
例如,BlueField-3 SuperNIC提供4種款式,分別是B3140H(1個400 Gb/s網路埠)、B3140L(1個400 Gb/s網路埠)、B3220L(2個200 Gb/s網路埠)、B3210L(2個100 Gb/s網路埠),全部搭配E系列核心,提供16顆Arm核心與16 GB記憶體。
BlueField-3 DPU提供3種款式:B3240(2個400 Gb/s網路埠)、B3220(2個200 Gb/s網路埠)、B3210E(2個100 Gb/s網路埠),全部提供16顆Arm核心與32 GB記憶體,而且,前兩款搭配P系列核心,另一款搭配E系列核心。至於B3210,則進入產品生命週期終止狀態。
產品資訊
Nvidia BlueField-3 SuperNIC
●原廠:Nvidia
●建議售價:廠商未提供
●外形與機型:全高半長,單槽機型B3210L(2個QSFP112埠,100GbE、InfiniBand HDR100)、B3220L(2個QSFP112埠,200GbE、InfiniBand NDR200)、B3140L(1個QSFP112埠,400GbE、InfiniBand NDR400 Gb/s)、B3140H(1個QSFP112埠,400GbE、InfiniBand NDR400 Gb/s)
●網路介面:提供乙太網路、InfiniBand,最高400 Gb/s,單或雙個QSFP112埠
●I/O介面:PCIe 5.0 x16
●搭配處理器與記憶體:8顆Armv8.2+ A78核心,16 GB DDR5-5600記憶體
●硬體加速器:Programmable Datapath Accelerator(16顆核心、256個執行緒)、ASAP2
●遠端管理:整合BMC(Aspeed AST2600),可透過管理埠連入
【註:規格與價格由廠商提供,因時有異動,正確資訊請洽廠商】

