輝達資料中心GPU炙手可熱，這幾年以來，三大公有雲業者持續擴充GPU運算服務陣容，以Google Cloud而言， 2023年推出基於Nvidia L4（Ada Lovelace架構）的G2 ，以及基於Nvidia H100（Hopper架構）的 A3 ，2024年6月增設網路頻寬加倍的 A3 Mega ，10月推出可配置1、2、4、8個H100的 A3 High ，以及網路頻寬達800 Gbps的 A3 Edge ，並且發表基於Nvidia H200（Hopper架構）的 A3 Ultra ，年底A3 Ultra 上市 。

到了今年，Google Cloud在2月釋出基於Nvidia B200（Blackwell架構）的 A4預覽版本 ，3月Nvidia GTC大會 期間， A4正式上線 ，Google Cloud也釋出基於Nvidia GB200 NVL72（Blackwell架構）的 A4X預覽版本 ，隨後於5月底 A4X也正式上線 ，

關於運算效能測試數據的公開揭露，MLCommon在4月與5月陸續發布的MLPerf Inference v5.0、MLPerf Training v5.0，Google Cloud針對Nvidia GPU的雲端運算服務，僅提交A3 Ultra的結果。

根據Google Cloud在2月發布的部落格文章，A4採用Nvidia HGX B200平台，當中配置8個Blackwell架構GPU，並以第五代NVLink介面互連，就尖峯運算效能而言，新一代GPU領先幅度可達2.5倍，配備的HBM記憶體容量也增至2.25倍，能廣泛用於各種AI模型架構的訓練與微調。至於A4採用的處理器平台，則是英特爾第五代Xeon Scalable系列的Xeon Platinum 8581C。

值得注意的是，用來建構A4與A3 Ultra的伺服器，也配備Google Cloud新設計的Titanium ML網路卡，而這個網路介面其實是基於Nvidia ConnectX-7網路卡而成。Google Cloud表示，經過調校之後，Titanium ML網路卡可針對AI工作負載提供安全、高效能的雲端服務使用體驗。

在網路基礎架構的配置上，A4與A3 Ultra結合遍及整個資料中心的4通道邏輯線路羣組網路（4-way rail-aligned network），能藉由RoCE（RDMA over Converged Ethernet）技術，進而提供3.2 Tbps的GPU互連網路傳輸頻寬。若要擴充雲端服務的加速運算規模，Google Cloud用户能夠將GPU數量設置到數萬個，關鍵在於：底層的資料中心交織網路，採用他們發展的 Jupiter第五代技術架構 ，可提供13 Pbps的網路對分頻寬。

而在3月A4正式上線的消息當中，Google Cloud表明A4的具體成效，例如，FP8運算效能可達到72 PFLOPS，AI訓練效能比起稍早推出的A3 Mega，增長2.2倍。

產品資訊

Google Cloud A4
●原廠：Google Cloud
●建議售價：美國愛荷華州資料中心（us-central1），承諾使用1年每小時88.9272美元
●處理器：英特爾第五代Xeon Scalable（Xeon Platinum 8581C）
●提供服務規模選擇與組態：a4-highgpu-8g，224顆虛擬處理器、3,968 GiB記憶體、本機儲存空間為12,000 GiB、8個Nvidia B200 GPU（1,440 HBM3e記憶體）、網路頻寬為3,600 Gbps

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】