谷歌發佈第六代雲端TPU,並宣佈使用NVIDIA Blackwell架構產品

據Wccftech 報道 ,谷歌最近舉行了I/O 2024大會,在會上谷歌發佈了他們最新的第六代雲端TPU “Trilium”,並表示已經集成到谷歌的AI超級計算機中。此外,谷歌還宣佈已經將NVIDIA Blackwell架構的GPU納入到公司的“人工智能裝備庫”中,將為谷歌雲服務器解決方案提供支持,預計在2025年初上市。

谷歌稱第六代雲端TPU “Trilium”擁有比上一代TPU(TPU v5p)更大HBM容量和互連帶寬,增加幅度達到1倍,使得谷歌能更高效地進行人工智能模型的模擬運算和開發,同時Trilium的能效也較上代提高了67%,更適合大規模數據中心使用。谷歌還與科技公司Hugging Face合作,通過後者來簡化模型訓練和服務,讓開發者可以更輕鬆地在谷歌雲的AI基礎架構(包括TPU)上調整和運行開源模型。

至於採用NVIDIA Blackwell架構的GPU,谷歌稱這會讓他們把計算性能提升到一個全新的水平。從現場演示的圖來看,谷歌將採用的應該是NVIDIA的GB200 NVL72計算平台,這是一個全機架解決方案,有18個1U服務器。其能提供720 petaflops的FP8性能,1440 petaflops的FP4計算性能,可處理27萬億個AI LLM參數模型。每台服務器內帶有兩個GB200 Grace Blackwell Superchip,合計有36個Grace CPU和72個Blackwell GPU。這些計算節點帶有1.7TB的HBM3E內存、32TB/s的內存帶寬,並且全部採用液冷MGX封裝。