《科学》杂志在今年4月份提出了125个最具挑战性的前沿科学问题,其中信息科学领域的首个问题便是:计算机处理速度是否有上限?(Is there an upper limit to computer processing speed?)在数字计算机中,处理器速度的上限很大程度上由时钟频率决定,而时钟频率的增加实质上受逻辑状态(“0”与“1”)翻转速度的限制。进一步提高处理器的速度将导致严重的过热问题,这也解释了为什么十多年来,处理器的时钟频率已经停止了增长,这也导致传统计算机在有着大规模计算需求的物联网、自动驾驶等应用场景中面临巨大挑战。一种应对的思路是利用并行计算技术,通过提高并行度来提升处理速度的上限。常规的多核、多芯片、多板卡并行计算系统均采用“空间换时间”的妥协方式来提高算力,如何利用新的计算硬件和计算方案来实现大规模并行计算,从而实现信息处理速度的不断提升,是未来计算领域一个广受关注的议题。近日,我校缪峰教授合作团队利用连续时间的信息加载方式和频分复用技术,首次提出并实验验证迄今最高并行度的神经形态计算方案。
利用忆阻器交叉阵列可实时连续地处理动态信息的特点,该团队提出利用时间上连续的信号作为信息载体,引入频率维度,提出了迄今最高并行度的神经形态计算方案。作为验证,团队利用两个级联的忆阻器交叉阵列,成功实现了对16张字母图片的并行识别。该工作为回答“计算机处理速度是否有上限”的前沿科学问题提供了新的思路,并为利用大规模并行计算技术在神经形态计算领域实现应用提供了科学基础。
研究团队基于忆阻器交叉阵列可以在时间上连续处理信息的特性,提出了在频域上采用频分复用实现并行计算的方式。在该方式中,如果将单一频率的连续信号输入忆阻器阵列进行计算,输出的信号会维持单一频率;如果将多个单频率信号叠加合成为一个多频率信号,并输入忆阻器阵列进行计算,输出的信号会具有多个频率。我们选取了一系列正弦波叠加后的信号作为忆阻器交叉阵列的输入信号(图1a),该信号的频谱会出现多个离散的峰,每个峰均可被用来加载数据。
该计算方案具有两种操作模式:并行读取模式和并行计算模式。如图1b所示,以一个M*N的忆阻器阵列为例,在并行读取模式下,M行中的每行输入不同频率、相同幅值的单一频率信号;而在计算模式下,忆阻器阵列M行中的每行输入的信号存在k种频率,每个频率有着不同的幅值,忆阻器不同行不同频率上输入的数据构成了一个k*M大小的输入矩阵。在两种模式下,忆阻器的N列输出电流的频谱中都包含了k种频率分量,共同构成了一个k*N大小的输出矩阵。因此,在计算模式下,利用忆阻器阵列一步完成了输入矩阵(k*M)与忆阻器权值矩阵(M*N)的点乘运算。该运算的并行度为M,并可随着阵列规模的扩大而增加。
图1 基于忆阻器交叉阵列的频分复用计算。 a 利用忆阻器交叉阵列实现频分复用计算,其中信息的载体是多种分立频率信号合成的时间上连续的信号。b 利用频分复用计算进行并行读取和并行计算的图解。在读取模式下,忆阻器阵列的每行输入不同频率、相同幅值的单一频率信号;而在计算模式下,忆阻器阵列每行输入的信号有着多种频率,每个频率有着不同的幅值,忆阻器不同行不同频率上输入的数据构成一个输入矩阵。在读取和计算两种模式下,忆阻器交叉阵列每一列的输出电流的频谱中包含了多种的频率分量,共同构成了一个输出矩阵。在计算模式下,一步即完成了输入矩阵与忆阻器权值矩阵的点乘运算。
进一步,研究团队将两个分别工作在读取和计算模式下的阵列进行级联,实现了并行读取、并行识别、与识别结果传输的功能演示(图2)。在该演示中,第一个阵列储存了代表16张“NANJING UNIV CHINA”的5*5像素的字母图片,第二个阵列储存了用于识别上述9类字母的神经网络权重。当给第一个忆阻器阵列按列施加不同频率、相同幅值的电压信号时,在第一个阵列内完成了并行读取的过程。通过电流-电压转换,第一个阵列的信息被直接加载到第二个阵列的输入信号中。通过第二个忆阻器阵列的推理之后,完成了对16张图片的同时分类。此外,频分复用计算的输出信号和无线频分复用通信系统中的通讯信号相互兼容,还可以通过无线射频模块直接完成识别结果的无线传输。
图2:基于频分复用并行计算技术进行的多个图片并行识别和识别结果的无线传输。 a 实现图片并行读取-识别-发送的示意图。其中两个忆阻器交叉阵列分别用于保存待处理图片和执行推理任务。b 16 个待识别图片按照特定的方式构成16*25数据矩阵。c 另一个忆阻器交叉阵列被训练成神经网络权重矩阵。d 16张图片的并行识别结果。忆阻器阵列的识别结果通过射频电路发射,并在无线终端实现接收。可以通过判断接收到每个频道信号的正负相位(红、蓝色方块),获取对初始待识别图像的识别结果。
最后,值得一提的是,在该工作中,虽然团队利用忆阻器阵列作为硬件展示,但是该频分复用计算技术可以广泛应用于相变存储器、磁隧穿结存储器、浮栅器件等其他神经形态计算硬件上。该工作为未来人工智能时代,填补海量数据计算需求所面临的算力缺口提供了可行的技术途径。
相关研究成果以《Scalable massively parallel computing using continuous-time data representation in nanoscale crossbar array》(利用连续时间数据表达在纳米尺度交叉阵列上实现可扩展大规模并行计算)为题于 2021年7月8日发表在《自然-纳米技术》(Nature Nanotechnology)期刊上。南京大学物理学院博士生王聪和副教授梁世军为共同第一作者,缪峰教授为通讯作者,共同作者还包括东南大学和紫金山实验室张在琛教授、张川教授团队。该工作得到国家****科学基金、国家自然科学基金重点项目、中科院先导B等项目的资助,以及固体微结构物理国家重点实验室、人工微结构科学与技术协同创新中心等支持。
相关文章链接:
https://www.nature.com/articles/s41565-021-00943-y
删除或更新信息,请邮件至freekaoyan#163.com(#换成@)
南京大学缪峰合作团队提出迄今最高并行度的神经形态计算方案
本站小编 Free考研考试/2022-03-01
相关话题/计算 信号 图片 信息 技术
江苏省环保产业标准化技术委员会成立大会
4月17日,江苏省环保产业标准化技术委员会成立大会在宜兴顺利召开。江苏省及无锡市市场监督管理局、宜兴市委市政府、宜兴环科园有关领导,以及标委会委员、企业家、行业组织代表等参加成立大会。中国工程院院士、河海大学王超教授作《长江经济带建设的生态环境保护》主旨报告,提出长江生态环境形势对环保产业标准的需求 ...南京大学通知公告 本站小编 Free考研考试 2022-03-01生命科学学院李靓/曾科团队揭示突触修剪抑制信号异常在阿尔茨海默病中的作用机制
小胶质细胞在神经元突触的修剪/清除中起关键作用,该过程异常会导致小鼠成年以后产生如孤独症等社交行为障碍。调控突触修剪的信号在部分神经系统疾病中异常激活,导致小胶质细胞对神经突触的过度吞噬及相应精神症状的出现。近日,南京大学生命科学学院李靓/曾科课题组系统阐明了小胶质细胞SIRPα信号在发育早期突触修 ...南京大学通知公告 本站小编 Free考研考试 2022-03-01现代工学院宋玉君课题组开发了一种细胞外囊泡快速分离分析新技术
近日,现代工学院宋玉君教授课题组制备了一种用于小细胞外囊泡(sEV)分离的磁性胶体抗体,并将其应用于sEV的快速分离及卵巢癌的诊断当中。小细胞外囊泡(sEV)是一种由磷脂双分子层膜包裹的,直径介于30–200nm的细胞外囊泡,包括肿瘤细胞、内皮细胞、免疫细胞、血小板等多种细胞均可分泌。越来越多的研究 ...南京大学通知公告 本站小编 Free考研考试 2022-03-01华为技术有限公司轮值董事长徐直军一行来访我校
12月6日,华为技术有限公司轮值董事长徐直军带队访问我校。中国科学院院士、校长吕建在仙林校区会见徐直军一行。吕建代表学校向徐直军董事长一行的到来表示热烈的欢迎,向长期以来支持南大办学发展的华为技术有限公司表示衷心感谢。他表示,华为始终站在全球信息与通信行业企业的第一线,是中国企业的领头羊。南大与华为 ...南京大学通知公告 本站小编 Free考研考试 2022-02-27我校4项成果获2020年度国家科学技术奖
2020年度国家科学技术奖励大会今天(3日)上午在人民大会堂举行,会上共评选出264个项目、10名科技专家和1个国际组织。我校计算机科学与技术系主任兼人工智能学院院长、计算机软件新技术国家重点实验室常务副主任周志华教授等人主持完成的研究成果《面向多义性对象的新型机器学习理论与方法》荣获2020年度国 ...南京大学通知公告 本站小编 Free考研考试 2022-02-27“羲和号”来了!我国首颗太阳探测科学技术试验卫星发射成功!
2021年10月14日18时51分,南京大学参与研发的我国首颗太阳探测科学技术试验卫星“羲和号”在太原卫星发射中心由长征二号丁运载火箭成功发射升空,并顺利进入平均高度517公里的太阳同步轨道,标志着我国正式迈入空间探日时代。“羲和号”卫星全称为“太阳Hα光谱探测与双超平台科学技术试验卫星”,简称太阳 ...南京大学通知公告 本站小编 Free考研考试 2022-02-27“南京大学天长新材料与能源技术研发中心” 合作协议签约仪式举行
2021年6月17日,“南京大学天长新材料与能源技术研发中心”合作协议签约仪式在我校仙林校区举行。中共天长市委副书记、市长贺家平,南京大学副校长陆延青出席仪式。陆延青在致辞中表示,在新时代发展起点上,南京大学正全面推进“双一流”建设,牢牢扣住建设“第一个南大”目标,学校整体事业呈现出不断向上跃升的发 ...南京大学通知公告 本站小编 Free考研考试 2022-02-27南京大学携多项科技成果参展第八届中国(上海)国际技术进出口交易会
2021年4月15—16日,第八届中国(上海)国际技术进出口交易会(简称“上交会”)在上海世博展览馆盛大开幕。上交会高校展区由上海市教育委员会主办,上海市教育委员会科技发展中心承办。南京大学积极响应江苏省科学技术厅的号召携多项科技成果参展此次上交会。此次上交会高校展区展出面积为612平方米,规模与历 ...南京大学通知公告 本站小编 Free考研考试 2022-02-27上海电机学院2022年专业学位硕士研究生招生信息
我校2022年拟招收全日制能源动力专业学位硕士研究生485名(包括退役大学生士兵专项计划5名),尚有缺额,需要调剂。特此公告如下:一、调剂专业及要求 序号 领域名称及代码 调剂要求 ...上海电机学院 本站小编 免费考研网 2022-02-272022年上海第二工业大学与上海市计算技术研究所硕士研究生联合培养项目招生简章
一、项目简介为深入贯彻落实全国研究生教育大会精神,深化研究生教育产教融合、校企合作,在上海市教育主管部门的大力支持下,学校与上海市计算技术研究所签订了战略合作协议,充分利用高校人才培养和科研院所科学技术创新的优势,联合招生培养工程硕士专业学位研究生,满足行业产业对高层次的应用技术型人才的需求。二、单 ...上海第二工业大学 本站小编 免费考研网 2022-02-27