AMD推出Instinct MI300系列計算卡,提供數據中心AI解決方案組合

AMD在太平洋標準時間2023年12月6日早上10點(北京時間12月7日凌晨2點)舉辦了主題為“Advancing AI”的活動,推出了新一代針對數據中心的Instinct MI300系列計算卡。AMD表示,新產品具有業界領先的生成式AI內存帶寬,在大型語言模型(LLM)訓練和推理方面具有領先性能,結合了最新的CDNA 3架構和Zen 4架構,可為HPC和AI工作負載提供突破性的性能。

首批Instinct MI300系列提供了兩款產品,分別是Instinct MI300A(CPU+GPU)和Instinct MI300X(純GPU)。

Instinct MI300X採用了小芯片設計,混用5nm和6nm工藝,晶體管數量達到了1530億個。其使用了第四代Infinity Fabric解決方案,共有28個模塊芯片,其中包括8個HBM和4個計算芯片,而每個計算芯片擁有2個基於CDNA 3架構的GCD,共80個計算單元,意味着有320個計算單元和20480個流處理器。出於良品率的考慮,AMD削減了部分計算單元,實際使用數量為304個計算單元和19456個流處理器。此外,HBM3容量達到192GB,提供了5.3TB/s的內存帶寬和896GB/s的Infinity Fabric帶寬。

在此次大會上,AMD還宣佈Instinct MI300A已進入量產階段,這是一款APU設計。其擁有24個基於Zen 4架構的內核,另外減少了1個計算芯片,使得計算單元數量也減至228個,對應14592個流處理器。

有消息稱,預計明年Instinct MI300系列的出貨量為30萬至40萬,其中最大的客户是谷歌和微軟。