谷歌發佈第七代TPU“Ironwood”:專注於AI推理,帶來每瓦性能翻倍提升

谷歌 宣佈 ,推出第七代TPU“Ironwood”,旨在提升人工智能(AI)應用程序的性能。谷歌表示,新款AI芯片專注於推理計算,即聊天機器人問答和其他AI輸出所需的快速計算,谷歌花了10年時間及數十億美元來開發TPU,暫時只提供給其內部工程師或者通過谷歌的雲服務使用。

Google Cloud副總裁Amin Vahdat表示:“Ironwood是谷歌迄今為止功能最強大、性能最強、最節能的TPU,專為大規模支持思考和推理AI模型而設計。”

第七代TPU“Ironwood”的峯值算力為4614 TeraFLOPS(第六代TPU芯片“Trillium”的5倍),內存高達192GB(“Trillium”的6倍);HBM帶寬達到7.2 Tbps(“Trillium”的4.5倍);每瓦峯值算力為29.3 TeraFLOPS(“Trillium”的2倍);增強的芯片間互連 (ICI) 帶寬,雙向增至1.2 Tbps(“Trillium”的1.5倍)。此外,“Ironwood”還搭載了增強版專用核心SparseCore,用於處理“高級排序”和“推薦”任務中常見的數據類型,通過最小化芯片內數據移動和延遲來實現節能。

Google Cloud為客户提供了256芯片和9216芯片兩種配置選擇,後者的AI算力達到了42.5 ExaFLOPS。“Ironwood”芯片將作為Google AI超級計算機架構的核心組件,通過軟硬件協同優化,將有力推動生成式AI向更復雜場景演進。