欧焱^1,2,冯煜晶¹,李文明¹,叶笑春¹,王达¹,范东睿^1,2

¹(计算机体系结构国家重点实验室(中国科学院计算技术研究所) 北京 100190);²(中国科学院大学计算机科学与技术学院 北京 100049) (ouyan@ict.ac.cn)

出版日期: 2019-12-01


基金资助:国家重点研发计划项目(2018YFB1003501)；国家自然科学基金项目(61732018,61872335,61802367)；中国科学院国际伙伴计划(171111KYSB20170032)；计算机体系结构国家重点实验室创新项目(CARCH3303，CARCH3407，CARCH3502，CARCH3505)

Optimum Research on Inner-Inst Memory Access Conflict for Dataflow Architecture

Ou Yan^1,2, Feng Yujing¹, Li Wenming¹, Ye Xiaochun¹, Wang Da¹, Fan Dongrui^1,2

¹(State Key Laboratory of Computer Architecture (Institute of Computing Technology, Chinese Academy of Sciences), Beijing 100190);²(School of Computer Science and Technology, University of Chinese Academy of Sciences, Beijing 100049)

Online: 2019-12-01

摘要/Abstract

摘要： 神经网络等人工智能应用的迅速兴起给传统处理器的设计带来了巨大的挑战，粗粒度数据流架构因具有高指令并发和高通用性的特点成为研究热点.然而，由于粗粒度数据流结构处理单元采用随机访问存储器作为存储结构，加之神经网络中大部分运算数据具有密集型特点，造成大量的指令内操作数访存冲突.通过分析典型神经网络的访存行为，发现此类应用存在指令内操作数冲突，会引起计算部件利用率的降低.基于此分析，提出了灵活的数据冗余策略.在编译指令阶段，为指令内有访存冲突的操作数申请数据冗余空间，降低指令内操作数访存延迟.实验以典型的神经网络LeNet，AlexNet为基准测试程序.采用灵活的数据冗余策略之后，能耗比相对于Round-Robin和ReHash的无数据冗余策略分别提高了30.21%和12.37%，相比于2套全数据冗余策略能耗比提高了27.95%.

参考文献

相关文章 3

[1]	汤嘉武, 郑龙, 廖小飞, 金海. 面向高性能图计算的高效高层次综合方法[J]. 计算机研究与发展, 2021, 58(3): 467-478.
[2]	钟 祺, 王 晶, 管雪涛, 黄 涛, 王克义,. 基于数据对象规模的Rank级内存分配方法[J]. 计算机研究与发展, 2014, 51(3): 672-680.
[3]	刘 磊, 黄 河, 唐志敏,. 支持多核并行程序确定性重放的高效访存冲突记录方法[J]. , 2012, 49(1): 64-75.

PDF全文下载地址:

https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4073