基于离群值去除的卷积神经网络模型训练后量化预处理方法

徐鹏涛, 曹健^?, 陈玮乾, 刘晟荣, 王源, 张兴^?

北京大学软件与微电子学院, 北京 102600

收稿日期:2021-10-26修回日期:2022-02-21出版日期:2022-09-20

基金资助:国家自然科学基金联合基金(U20A20204)资助

Post Training Quantization Preprocessing Method of ConvolutionalNeural Network via Outlier Removal

XU Pengtao, CAO Jian^?, CHEN Weiqian, LIU Shengrong, WANG Yuan, ZHANG Xing^?

School of Software and Microelectronics, Peking University, Beijing 102600

Received:2021-10-26Revised:2022-02-21Published:2022-09-20

摘要/Abstract

摘要： 为了提高训练后量化模型的性能, 提出一种基于离群值去除的模型训练后量化预处理方法。该方法仅通过排序、比较等简易的操作, 实现权重、激活值的离群值去除, 使模型在量化时仅损失少量的信息, 从而提升量化模型的精度。实验结果表明, 在使用不同的量化方法前, 采用所提方法进行预处理, 可显著地提升性能。

引用本文

徐鹏涛, 曹健, 陈玮乾, 刘晟荣, 王源, 张兴. 基于离群值去除的卷积神经网络模型训练后量化预处理方法[J]. 北京大学学报自然科学版, 2022, 58(5): 808-812.
XU Pengtao, CAO Jian, CHEN Weiqian, LIU Shengrong, WANG Yuan, ZHANG Xing. Post Training Quantization Preprocessing Method of ConvolutionalNeural Network via Outlier Removal[J]. Acta Scientiarum Naturalium Universitatis Pekinensis, 2022, 58(5): 808-812.





PDF全文下载地址:

http://xbna.pku.edu.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=3783