英特爾今年推出了第二代深度學習芯片Habana Gaudi2和Habana Greco，分別用於AI訓練和AI推理。這些芯片專門為AI深度學習應用打造，建立在Habana Labs的高效架構之上，為客户提供更高性能的AI訓練和AI推理，將用於數據中心的計算機視覺和自然語言應用。兩款芯片均出自於Habana Labs，英特爾在2019年以20億美元將其收購。

近日英特爾在AI產品戰略暨Gaudi2新品發佈會上，宣佈正式面向中國市場發售Habana Gaudi2，用於人工智能和高性能計算領域，預計浪潮、新華三和xFusion等廠商會推出搭載Gaudi2的AI服務器。官方稱Gaudi2訓練性能比英偉達A100加速器更好，價格也更便宜，可作為替代方案。

相比於Gaudi，新一代的Gaudi2的製造工藝由16nm升級到了7nm；內核數量有8個增加到了24個；內存和緩存從32GB HBM2 / 24MB提高到了96GB HBM2e / 48MB，帶寬從1TB/s增加到了2.45TB/s；網絡連接從10個100GbE變成了24個100GbE；TDP也從350W提高到了600W。

據英特爾介紹，Gaudi2在GPT-3模型上，384個加速器上的訓練時間為311分鐘，從256個加速器到384個加速器實現近線性95%的擴展效果，在計算機視覺模型ResNet-50（8個加速器）和Unet3D（8個加速器）以及自然語言處理模型BERT（8個和64個加速器）上取得了優異的訓練結果。與去年11月提交的數據相比，BERT和ResNet模型的性能分別提高了10%和4%，證明Gaudi2軟件成熟度的提升，軟件支持在持續發展和成熟，並能與日益增長的生成式AI及大語言模型的需求保持同步。