(国防科技大学并行与分布处理国防科技重点实验室 长沙 410073) (国防科技大学计算机学院 长沙 410073) (wangqinglin@nudt.edu.cn)
出版日期: 2020-06-01基金资助:“核高基”国家科技重大专项基金项目(2018ZX01028101)Optimizing Winograd-Based Fast Convolution Algorithm on Phytium Multi-Core CPUs
Wang Qinglin, Li Dongsheng, Mei Songzhu, Lai Zhiquan, Dou Yong(Science and Technology on Parallel and Distributed Processing Laboratory, National University of Defense Technology, Changsha 410073) (College of Computer, National University of Defense Technology, Changsha 410073)
Online: 2020-06-01Supported by:This work was supported by the National Science and Technology Major Projects of Hegaoji (2018ZX01028101).摘要/Abstract
摘要： 随着深度学习的快速发展，卷积神经网络已广泛应用于计算机视觉、自然语言处理等人工智能领域中.Winograd快速卷积算法因能有效降低卷积神经网络中卷积操作的计算复杂度而受到广泛关注.随着国防科技大学自主研制的飞腾多核处理器在智能领域的推广应用，对面向飞腾多核处理器的高性能卷积实现提出了强烈需求.针对飞腾多核处理器的体系结构特征与Wingorad快速卷积算法的计算特点，提出了一种高性能并行Winograd快速卷积算法.该算法不依赖通用矩阵乘库函数，由卷积核转换、输入特征图转换、逐元素乘、输出特征图逆变换等4个部分构成，融合设计了4个部分的数据操作，并设计了与之配套的数据布局、多级并行数据转换算法与多级并行矩阵乘算法，实现访存性能以及算法整体性能的提升.在两款飞腾多核处理器上的测试结果显示，与开源库ACL和NNPACK中的Winograd快速卷积实现相比，该算法分别能获得1.05~16.11倍与1.66~16.90倍的性能加速；集成到开源框架Mxnet后，该算法使得VGG16网络的前向计算获得了3.01~6.79倍的性能加速.
参考文献
相关文章 15
| [1] | 吴宗友, 白昆龙, 杨林蕊, 王仪琦, 田英杰. 电子病历文本挖掘研究综述[J]. 计算机研究与发展, 2021, 58(3): 513-527. |
| [2] | 廖海斌, 徐斌. 基于性别和年龄因子分析的鲁棒性人脸表情识别[J]. 计算机研究与发展, 2021, 58(3): 528-538. |
| [3] | 付章杰, 李恩露, 程旭, 黄永峰, 胡雨婷. 基于深度学习的图像隐写研究进展[J]. 计算机研究与发展, 2021, 58(3): 548-568. |
| [4] | 古天龙, 冯旋, 李龙, 包旭光, 李云辉. 基于社会新闻数据集的伦理行为判别方法[J]. 计算机研究与发展, 2021, 58(2): 253-263. |
| [5] | 陈晋音, 陈奕芃, 陈一鸣, 郑海斌, 纪守领, 时杰, 程瑶. 面向深度学习的公平性研究综述[J]. 计算机研究与发展, 2021, 58(2): 264-280. |
| [6] | 李金鹏, 张闯, 陈小军, 胡玥, 廖鹏程. 自动文本摘要研究综述[J]. 计算机研究与发展, 2021, 58(1): 1-21. |
| [7] | 孟子尧, 谷雪, 梁艳春, 许东, 吴春国. 深度神经架构搜索综述[J]. 计算机研究与发展, 2021, 58(1): 22-33. |
| [8] | 朱泓睿, 元国军, 姚成吉, 谭光明, 王展, 户忠哲, 张晓扬, 安学军. 分布式深度学习训练网络综述[J]. 计算机研究与发展, 2021, 58(1): 98-115. |
| [9] | 林培光, 周佳倩, 温玉莲. SCONV：一种基于情感分析的金融市场趋势预测方法[J]. 计算机研究与发展, 2020, 57(8): 1769-1778. |
| [10] | 李若南, 李金宝. 一种无源被动室内区域定位方法的研究[J]. 计算机研究与发展, 2020, 57(7): 1381-1392. |
| [11] | 李冬梅, 张扬, 李东远, 林丹琼. 实体关系抽取方法研究综述[J]. 计算机研究与发展, 2020, 57(7): 1424-1448. |
| [12] | 邢新颖, 冀俊忠, 姚垚. 基于自适应多任务卷积神经网络的脑网络分类方法[J]. 计算机研究与发展, 2020, 57(7): 1449-1459. |
| [13] | 胡超文, 邬昌兴, 杨亚连. 基于扩展的S-LSTM的文本蕴含识别[J]. 计算机研究与发展, 2020, 57(7): 1481-1489. |
| [14] | 于海涛, 杨小汕, 徐常胜. 基于多模态输入的对抗式视频生成方法[J]. 计算机研究与发展, 2020, 57(7): 1522-1530. |
| [15] | 成科扬, 王宁, 师文喜, 詹永照. 深度学习可解释性研究进展[J]. 计算机研究与发展, 2020, 57(6): 1208-1217. |
PDF全文下载地址:
https://crad.ict.ac.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=4191
