近日，NEO Semiconductor 公佈 了3D X-AI芯片技術，以取代目前用於AI GPU的HBM。這款3D DRAM內置AI處理功能，可以處理和生成不需要數學計算的輸出。當大量數據在內存和處理器之間傳輸時，可以緩解數據總線的瓶頸問題，提高了AI性能和效率。

NEO Semiconductor創始人兼首席執行官Andy Hsu表示：“由於架構和技術效率低下，目前的AI芯片浪費了大量的性能和功率。目前的AI芯片架構將數據存儲在HBM中，並依賴GPU來執行所有計算。這種分離的數據存儲和數據處理體系結構，使得數據總線成為不可避免的性能瓶頸。通過數據總線傳輸大量的數據會導致性能受限，而且功耗非常高。3D X-AI可以在每個HBM芯片上進行AI處理。這可以大大減少HBM和GPU之間的數據傳輸，從而提高性能並顯着降低功耗。”

3D X-AI芯片的底部有一個神經元電路層，用於處理存儲在同一芯片上的300個存儲層中的數據。該3D DRAM中有8000個神經路電路，在存儲器中進行AI處理，相比傳統方案性能提高了100倍。其容量為128GB，每個芯片可以支持10TB/s的AI處理速度。如果將12個芯片堆疊在一個HBM封裝堆棧中，可以實現1.5TB以上的存儲容量以及120TB/s的處理吞吐量。

按照NEO Semiconductor説法，採用3D X-AI技術的芯片在存儲密度上是當前HBM產品的八倍，更重要的是，通過減少高能耗GPU需要處理的數據量，使得降低99%的功耗。