在AI算力需求持續(xù)攀升的背景下，一款專為云端大模型推理設(shè)計(jì)的3D架構(gòu)芯片正式進(jìn)入流片階段。算苗科技近日宣布，其自主研發(fā)的3D TokenPU芯片A4E已完成關(guān)鍵制造環(huán)節(jié)，這款基于RISC-V架構(gòu)的芯片通過三維集成技術(shù)突破傳統(tǒng)設(shè)計(jì)范式，為AI推理場景提供全新解決方案。

與傳統(tǒng)芯片依賴制程工藝提升性能不同，A4E芯片采用8層存儲(chǔ)晶圓與計(jì)算邏輯晶圓的垂直堆疊結(jié)構(gòu)，通過硅通孔（TSV）和凸點(diǎn)（bump）技術(shù)實(shí)現(xiàn)微米級(jí)互聯(lián)。這種設(shè)計(jì)將數(shù)據(jù)傳輸距離從毫米級(jí)壓縮至微米級(jí)，帶來百倍級(jí)訪存帶寬提升，有效解決大模型推理過程中因數(shù)據(jù)搬運(yùn)效率不足導(dǎo)致的性能瓶頸問題。據(jù)技術(shù)團(tuán)隊(duì)介紹，該架構(gòu)使芯片在保持國產(chǎn)成熟制程的同時(shí)，實(shí)現(xiàn)算力密度和能效比的跨越式發(fā)展。

行業(yè)數(shù)據(jù)顯示，AI算力需求正從模型訓(xùn)練向推理環(huán)節(jié)加速遷移。德勤研究報(bào)告指出，未來五年全球推理負(fù)載占比有望突破80%，而開源RISC-V架構(gòu)憑借其靈活性和可擴(kuò)展性，正在數(shù)據(jù)中心和AI推理領(lǐng)域快速滲透。與此同時(shí)，智能汽車產(chǎn)業(yè)的算力需求呈現(xiàn)爆發(fā)式增長，車百智庫報(bào)告顯示，自動(dòng)駕駛和智能座艙系統(tǒng)對(duì)云端算力的依賴度持續(xù)提高，這為專用推理芯片創(chuàng)造了新的市場空間。

算苗科技研發(fā)負(fù)責(zé)人透露，A4E芯片主要面向超節(jié)點(diǎn)服務(wù)器和大型智算中心場景，已與多家頭部大模型企業(yè)開展合作測試。其獨(dú)特的三維架構(gòu)不僅適用于數(shù)據(jù)中心，在金融、醫(yī)療等需要本地化部署的領(lǐng)域也具有應(yīng)用潛力。隨著智能汽車進(jìn)入高階自動(dòng)駕駛階段，車輛與云端服務(wù)器的實(shí)時(shí)數(shù)據(jù)交互需求激增，這類專用推理芯片有望在車載邊緣計(jì)算場景發(fā)揮重要作用。

值得關(guān)注的是，該芯片采用全國產(chǎn)供應(yīng)鏈制造，在當(dāng)前全球半導(dǎo)體產(chǎn)業(yè)格局下具有特殊戰(zhàn)略意義。技術(shù)團(tuán)隊(duì)表示，通過架構(gòu)創(chuàng)新突破制程限制的路徑，為國內(nèi)AI芯片產(chǎn)業(yè)提供了新的發(fā)展思路，未來將持續(xù)優(yōu)化三維集成技術(shù)，推動(dòng)芯片性能向更高維度突破。