近日谷歌的TPU成為了業界的一個熱門話題,隨着傳出Meta可能斥資數十億美元投向谷歌採購TPU,引發了市場的關注,不少人認為有可能成為英偉達AI加速器的可靠替代品。對於谷歌來説,擴大TPU應用範圍,可以從英偉達龐大AI芯片市場中分得一杯羹,獲得更高收益。

據Wccftech 報道 ,作為英偉達供應鏈上最大的合作伙伴之一,富士康最近已經接到了谷歌基於第七代TPU“Ironwood”的AI機架訂單。除了Meta外,傳聞還有多家公司考慮谷歌提供的解決方案,因此TPU正逐步演變成一個面向外部的平台,潛在的市場規模變得越來越大。此外,富士康與谷歌的合作還不僅僅侷限於AI機架,還包括名為“Intrinsic”的機器人計劃。
有業內人士透露,谷歌基於自主研發的TPU構建的AI服務器主要分為兩類機架:一類是TPU機架,另一類是計算托盤機架。根據谷歌提出的供應鏈方案,每出貨一組TPU機架,富士康就需配套出貨一組計算托盤機架,形成1:1的供應配比。
谷歌圍繞第七代TPU“Ironwood”構建了一整套機架、網絡互連和散熱系統,從四顆芯片集成的Ironwood PCBA主板,到16塊PCBA主板組成的TPU機架,再到4×4×4 3D環面(3D Torus)網絡拓撲,形成一個邏輯計算單元,最後採用芯片間互連技術(ICI),通過混合使用PCB走線、銅纜和光纖鏈路,將多個機架連接成一個超級計算集羣。在超級計算集羣(Superpod)層面,提供了256芯片和9216芯片兩種配置選擇,後者的AI算力達到了42.5 ExaFLOPS。

由於目前推理在AI工作負載中佔據更為主導地位,不少企業選擇重組計算組合,以便在最佳總擁有成本(TCO)下獲得最好的推理性能,這也是為什麼近期谷歌TPU進入許多客户候選名單的原因之一。