随着AI大模型对算力需求的增长,“存算一体”成为半导体行业关注的技术方向之一。与此同时,行业内出现了一些概念上的混淆:部分观点将3D堆叠、HBM-PIM、近存计算等均归入存算一体范畴。
本文旨在从技术架构层面厘清存算一体与近存计算的本质区别,为行业从业者提供概念参考。
近存计算的技术路径
要理解3D堆叠和存算一体的区别,首先需要了解存储墙问题的背景。
冯·诺依曼架构的特征是计算与存储分离,数据需要在存储结构与计算单元之间搬运才能完成运算。在AI大模型场景中,矩阵计算占比亚欧95%以上,这一架构下的数据搬运开销较为突出。
产业界较早提出的解决方案是“让存储离计算更近一些”。从2.5D封装的HBM,到逻辑芯片与存储芯片垂直堆叠的3D封装技术,都属于这一思路下的实践。2.5D封装的HBM曾一度是近存计算的代表,而目前近存计算的技术代表则包括3D DRAM。
通过3D堆叠工艺将存储和计算芯片封装在一起,可以缩短数据传输的物理距离,提升内存带宽。HBM-PIM则进一步在DRAM芯片中加入了简单计算单元,使部分计算可在内存侧完成。
无论是2.5D HBM还是3D DRAM,逻辑单元与存储单元分别在两个独立的晶圆上制造,再通过封装技术连接。HBM-PIM方案由三星在2017年提出,核心是在DRAM裸片内部的Bank周边新增SIMD电路,在同一晶圆上设计生产,以缩短数据搬运距离。该方案也存在一定工程挑战,包括对DRAM存储容量的影响、功耗增加、软件生态兼容性等问题。
但无论是2.5D HBM还是3D DRAM,主要优化方向是缩短数据搬运的物理距离,多层级存储结构仍然存在。
存算一体的架构定义
存算一体目前主要分为模拟存算一体和数字存算一体两大技术路线。
模拟存算一体利用存储器件的物理特性,通过模拟计算完成矩阵运算,优势在于功耗较低、晶体管用量较少,但计算精度有一定局限。
数字存算一体通过消除缓存结构,减少矩阵计算过程中数据在多层级存储结构间搬运的开销。
可以用以下方式理解存算一体的价值:算法规模越大,传统架构下需要搬运数据的次数越多、距离越长,采用存算一体架构的收益越显著。
在大模型时代,当数据搬运成本明显高于计算成本、矩阵乘运算占比超过95%时,存算一体成为值得关注的技术路径。
这与3D封装通过缩短物理距离提升带宽的方案属于不同维度的技术创新,两者可以协同互补。
概念区分
近存计算(Near Memory Computing):是对计算单元与存储单元物理距离较近这一状态的描述,属于架构优化手段。3D堆叠、HBM、HBM-PIM均属于近存计算范畴,仍保留多层缓存结构。
存算一体(CIM,Computing In Memory):是一种实现矩阵计算的IP核,从架构上消除了多级Cache,避免传统架构中矩阵运算所需的大量数据搬运。
任何逻辑单元都可以通过3D堆叠工艺实现“近存”状态;而存算一体是一种矩阵计算过程中无需Cache、数据读出即计算的计算架构。
三者的差异可从存储墙消除程度来理解:
传统架构:多层缓存长距离往复搬运,存储墙问题较突出
近存计算(3D堆叠/HBM-PIM):缩短了数据搬运距离,但多层缓存结构依然存在
存算一体:核心计算路径省去多级Cache中转,从架构层面减少了缓存数据搬运
存算一体的产业进展
经过多年的技术探索,存算一体已从实验室原理验证阶段逐步走向产业落地。存算一体已纳入国家“十五五”规划,成为行业关注的算力方向之一。
在产业落地过程中,存算一体的技术路线围绕以下维度进行迭代:
性能维度:计算精度、存储容量、功耗水平、读写次数、读写速度
落地维度:成本、可生产性
商业维度:算法通用性、软件生态兼容性
经过多年的技术演进,行业逐渐在端侧和云端形成了两套不同的取舍逻辑:端侧场景更注重功耗与成本;云端场景更注重精度与容量。
从早期机器视觉的MB级容量需求,到大模型时代TB级的容量需求,存算一体对存储容量的要求大幅增长。存储介质的选择从SRAM、RRAM逐步向3D DRAM演进——3D DRAM凭借大容量、高带宽、高耐久性及产业链成熟度,成为云端大模型场景的主要选择方向。
国内存算一体企业亿铸科技布局RRAM与3D DRAM双存储介质路线,美国d-Matrix从SRAM转向3D DRAM,行业部分玩家已完成产品流片与大模型场景验证。
3D堆叠是封装工艺层面的进步,是在2.5D封装基础上为缩短数据搬运距离做出的技术演进;存算一体则是计算架构层面的创新,是为减少缓存带来的数据搬运开销做出的架构革新。两者在AI大模型发展的背景下形成协同,对传统冯·诺依曼架构提出了新的技术路径探索。
免责声明
本文为广告商业稿件,内容仅供参考,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们。
本网登载内容出于更直观传递信息之目的。该内容版权归原作者所有,并不代表本网赞同其观点和对其真实性负责。本站不承担此类作品侵权行为的直接责任及连带责任,如该内容涉及任何第三方合法权利,请及时联系我们,我们会及时反馈并处理完毕。转转请注明出处:https://sygc.hzhqhc.com/4976.html