去年亞馬遜在“AWS re:Invent 2024”中宣佈，推出下一代AI芯片Trainium3。這是其首款採用3nm工藝製造的芯片，為性能、能效和密度設定了新標準。今年的“AWS re:Invent 2025”上，亞馬遜正式 發佈 了基於Trainium3的Trn3 UltraServers，提供了更快、更低成本的AI訓練。

亞馬遜表示，每顆Trainium3芯片可提供2.5 PFLOPs的FP8計算性能，HBM3E容量為144GB，容量是Trainium2的1.5倍，帶寬則是1.7倍，達到了4.9 TB/s。Trainium3專為密集型與專家級並行工作負載設計，支持先進數據類型（MXFP8和MXFP4），並優化了內存與計算的平衡性，可高效處理實時、多模態及推理任務。

全新Trn3 UltraServer專為AI研究人員打造，由AWS Neuron SDK提供支持。可以擴展到144個Trainium3芯片（共362 FP8 PFLOPs），並且在EC2 UltraClusters 3.0中擴展到數十萬個芯片，可實現突破性性能。一個完全配置的Trn3 UltraServer提供了20.7TB的HBM3E，總帶寬達到了706 TB/s。新一代Trn3 UltraServer採用了NeuronSwitch-v1全互連架構，芯片間互聯帶寬相比於Trn2 UltraServer提升了一倍。

如果將Trn3 UltraServer與Trn2 UltraServer進行比較，前者的性能是後者的4.4倍，帶寬是3.9倍，另外每瓦性能是3.5倍，使得客户能夠在構建模型時更快地迭代，並在部署模型時提供卓越的實時性能，為訓練和服務前沿規模模型提供最佳的性價比。