摩爾線程宣佈性能新突破:國產千卡智算集羣助力國產大模型訓推

摩爾線程宣佈與智譜AI合作,在2024年5月開展了新的GPU大模型適配及性能測試,包括大模型推理以及基於誇娥(KUAE)千卡智算集羣的大模型預訓練,相關大模型來自於智譜AI基座大模型及其開源版本。

測試結果表明,在推理方面,摩爾線程自研全功能GPU顯著優於基準對比產品RTX 3090和RTX 4090,在全部測試用例中優於RTX 3090,在多batch下優於RTX 4090;在訓練方面,摩爾線程誇娥千卡智算集羣訓練精度與A100集羣誤差在1%以內,誇娥千卡智算集羣性能擴展係數超過90%,模型算力利用率(MFU)與A100集羣相當。

摩爾線程表示,這次的測試結果對更好地建設中國大模型產品技術生態具有重要意義:

  • 首先,是技術自主新突破,標誌着摩爾線程全功能GPU算力底座有能力支撐行業領先的大模型全鏈條研發,在滿足信息安全的前提下服務於千行百業;

  • 其次,是助力打破算力瓶頸,表明國產GPU算力底座有能力助力中國人工智能技術發展;再次是開拓創新空間,算法、算力、數據是AGI技術的核心要素,雙方的合作有利於推動實現軟硬件的深度融合與協同創新;

  • 再次,是開拓創新空間,算法、算力、數據是AGI技術的核心要素,摩爾線程與智譜AI卓有成效的適配與測試合作,有利於推動實現軟硬件的深度融合與協同創新;

  • 最後,是降低運營成本,摩爾線程自研國產全功能GPU不僅能夠兼容適配全球主流AI軟件生態,節約軟件遷移成本,而且在單位算力總體擁有成本上擁有較為明顯優勢,能夠有效降低大模型產品研發成本。

以大模型為代表的新一代人工智能技術是引領新一輪科技革命和產業變革的戰略性技術和重要驅動力量,隨着對算力需求的日益高漲,人工智能算力底座公司日益成為新一波人工智能技術浪潮重要組成部分。未來摩爾線程會與智譜AI在內的合作伙伴攜手,共同推動大模型產業生態的建設和發展。