RC的核心思想是利用物理系统(或物理节点)自身的动态特性和非线性取代传统递归神经网络中各个节点间的循环连接,从而大幅减少硬件开销和系统功耗。同时,由于消除了循环连接带来的误差积累问题,RC系统天然具备全模拟计算的优势与潜力。RC系统的硬件实现大致可分为三个阶段:全数字系统、数字-模拟混合系统和全模拟系统。由于前两种RC系统都需要额外的模拟-数字转换器和寄存器作为数据转换和缓存,这带来了大量的系统功耗和延时。相比之下,全模拟RC系统中储备池层和读出层均由模拟元件实现,输入的模拟信号可以在整个系统中直接传输和处理,无需任何数据转换和缓存。要实现这种能够以极低功耗和硬件开销实时处理时空信号的全模拟RC系统,主要有两大难点问题:一是如何构建状态丰富的储备池并寻找到物理节点中决定储备池性能的关键特征参数;二是降低全模拟传输和处理过程中的噪声对系统性能的负面影响。
![20220927-基于忆阻器的低功耗全模拟储备池计算系统-唐建石课题组-图1.png](https://www.tsinghua.edu.cn/__local/5/88/76/40AF1C838B4BA40B429C301AFCF_6C5A7A08_3D03E.png)
不同类型的硬件RC系统:全数字RC系统、数模混合RC系统、全模拟RC系统
清华大学集成电路学院唐建石副教授课题组从这两点出发,设计出了具备全模拟计算能力的DM-RC系统,其核心是由24个动态忆阻器(DM)构成的储备池层以及由2048个非易失性忆阻器(NVM)构成的读出层。DM-RC系统中每个动态忆阻器都构成一个物理节点,通过时分复用机制(Mask)能够产生丰富的储备池状态。研究团队发现,物理节点的阈值、窗口等关键行为特征对系统的性能影响很大,通过调节动态忆阻器物理节点的阈值和窗口,可以使得储备池计算系统达到最优性能。此外,为了进一步抑制噪声等非理想特性对系统性能的影响,研究团队提出了一种带有噪声感知能力的线性回归算法,使用该算法所得到的输出层权重具有较好的噪声鲁棒性,能够很好地补偿由器件电导值扰动以及模拟传输噪声引起的计算精度损失。
![20220927-基于忆阻器的低功耗全模拟储备池计算系统-唐建石课题组-图2.png](https://www.tsinghua.edu.cn/__local/E/E8/1F/4433BA94F04B7FC232A7C947C45_F7C7E669_C4B2C.png)
DM-RC系统的硬件架构:其核心是由24个动态忆阻器(DM)构成的储备池层以及由2048个非易失性忆阻器(NVM)构成的读出层
为验证DM-RC系统实时模拟信号处理的能力,研究团队将其应用到异常心率检测和动态手势识别等任务中,均展现出优异的性能和极低的功耗。以动态手势识别为例,手环中的三轴加速度传感器将手部的空间动作转换成三路不同的模拟电信号,每路信号被分别输入到八个DM节点上产生相应的储备池状态,其随后被直接传输到非易失性忆阻器阵列中进行模拟域的乘加运算,并最终区分出四类不同的动态手势。DM-RC系统最终实现了97.9%的分类准确率,与全数字RC系统准确率接近,但却节省了99.9%以上的功耗。该工作展示了全模拟的储备池计算系统在边缘计算、物联网等低功耗场景中的应用潜力。
![20220927-基于忆阻器的低功耗全模拟储备池计算系统-唐建石课题组-图3.png](https://www.tsinghua.edu.cn/__local/B/C8/07/D43E1942C6324B7706DA557586A_80794EB6_7D3CC.png)
DM-RC系统在动态手势识别任务上的性能表现和系统功耗表现:系统能以全模拟的方式对传感器信号进行实时处理,实现了与数字系统相近的准确率,且功耗降低3个数量级
相关成果以“面向实时高效信号处理的忆阻器模拟储备池计算系统”(A memristor-based analogue reservoir computing system for real-time and power-efficient signal processing)为题在线发表在《自然?电子》(Nature Electronics)上。清华大学集成电路学院副教授唐建石和教授吴华强是本论文的共同通讯作者,清华大学集成电路学院博士后仲亚楠(现任苏州大学功能纳米与软物质研究院副教授)、唐建石和博士李辛毅为论文的共同第一作者。该研究得到了科技部科技创新2030重大项目、国家自然科学基金委、北京信息科学与技术国家研究中心、集成电路高精尖创新中心、科学探索奖等的支持。
近年来,唐建石副教授课题组围绕忆阻器与类脑计算开展了深入研究,先后在《自然?电子》(Nature Electronics)、《自然?纳米科技》(Nature Nanotechnology)、《自然?通讯》(Nature Communications)、《科学?进展》(Science Advances)、《先进材料》(Advanced Materials)等期刊以及国际电子器件会议(IEDM)等领域内国际学术会议上发表多篇论文。
论文链接:
http://www.nature.com/articles/s41928-022-00838-3
供稿:集成电路学院
题图设计:刘雨田
编辑:李华山
审核:郭玲
2022年09月27日 13:04:29