去年三星 宣佈 推出新款HBM2內存,其中集成了AI處理器,最高可提供1.2 TFLOPS嵌入式計算能力,使內存芯片本身可以執行CPU、GPU、ASIC或FPGA的操作。新的HBM-PIM (processing-in-memory) 芯片在每個內存模塊內注入了一個AI處理器,從而將處理操作轉移到HBM本身,從而減輕了內存與一般處理器之間轉移數據的負擔。
據Business Korea 報道 ,三星對AMD基於CDNA架構的Instinct MI100計算卡進行改造,加入了HBM-PIM芯片,然後使用96張經過改造的Instinct MI100計算卡構建了一個大型計算系統。相比於未改造前的系統,新系統在使用訓練語言模型算法T5時性能提高了2.5倍,功耗降低至原來的2.67分之一,大大提高了GPU運行AI算法的效率。

三星人工智能研究中心負責人表示,未來在半導體生產過程中AI技術的使用率正在增加,PIM技術的應用看起來是加速AI工作流程的有效解決方案,能讓三星成為一家比任何其他公司都更好使用人工智能技術的半導體公司。目前檢查良品率的方法存在侷限性,需進入一個可以使用人工智能傳感器和檢查數據預測產量的階段。
三星並不是唯一一家開發PIM技術的廠商,今年初SK海力士 宣佈 已開發出具備計算功能的下一代內存半導體技術,首款基於該技術的產品為GDDR6-AiM(Accelerator-in-Memory/內存加速器),將計算功能添加到速率為16 Gbps的GDDR6上。其初步測試表明,應用GDDR6-AiM以後AI處理速度提高了16倍,功耗也降低了80%。不過SK海力士沒有透露具體的操作步驟和比對方式,所以不能與三星這次的成績直接比較。