基于编码器共享和门控网络的生成式文本摘要方法

田珂珂^1,2, 周瑞莹^1,2, 董浩业^1,2, 印鉴^1,2,?

1. 中山大学数据科学与计算机学院, 广州 5100062. 广东省大数据分析与处理重点实验室, 广州 510006

收稿日期:2019-05-22修回日期:2019-09-25出版日期:2020-01-20

基金资助:广东省科技计划项目(2015A030401057, 2016B030307002, 2017B030308007)资助

An Abstractive Summarization Method Based on Encoder-Sharing and Gated Network

TIAN Keke^1,2, ZHOU Ruiying^1,2, DONG Haoye^1,2, YIN Jian^1,2,?

1. School of Data and Computer Science, Sun Yat-Sen University, Guangzhou 5100062. Guangdong Key Laboratory of Big Data Analysis and Processing, Guangzhou 510006

Received:2019-05-22Revised:2019-09-25Published:2020-01-20

PDF

(642KB)

可视化

0

复制本文网址

1. 探讨2016版国际胰瘘研究小组定义和分级系统对胰腺术后患者胰瘘分级的影响.PDF(500KB)

-->

摘要/Abstract

摘要： 结合基于自注意力机制的Transformer模型, 提出一种基于编码器共享和门控网络的文本摘要方法。该方法将编码器作为解码器的一部分, 使解码器的部分模块共享编码器的参数, 同时使用门控网络筛选输入序列中的关键信息。相对已有方法, 所提方法提升了文本摘要任务的训练和推理速度, 同时提升了生成摘要的准确性和流畅性。在英文数据集Gigaword和DUC2004上的实验表明, 所提方法在时间效率和生成摘要质量上, 明显优于已有模型。

引用本文

田珂珂, 周瑞莹, 董浩业, 印鉴. 基于编码器共享和门控网络的生成式文本摘要方法[J]. 北京大学学报自然科学版, 2020, 56(1): 61-67.
TIAN Keke, ZHOU Ruiying, DONG Haoye, YIN Jian. An Abstractive Summarization Method Based on Encoder-Sharing and Gated Network[J]. Acta Scientiarum Naturalium Universitatis Pekinensis, 2020, 56(1): 61-67.





PDF全文下载地址:

http://xbna.pku.edu.cn/CN/article/downloadArticleFile.do?attachType=PDF&id=3434