本报告介绍MemSum,一种基于多步情景马尔可夫决策过程与强化学习的长文档提取式摘要模型。MemSum通过融合局部句子编码、全局上下文编码和提取历史编码器,能够动态迭代选择摘要句子并智能停止提取,有效降低冗余度。模型在PubMed、arXiv和GovReport等长文档数据集上取得SOTA性能,优于现有抽取与抽象摘要方法,且人工评估显示摘要质量和紧凑性均领先竞争模型。文中消融实验进一步验证了提取历史编码和自动停止机制对模型性能的关键作用。
MemSum将长文档提取摘要任务建模为多步情景马尔可夫决策过程(MDP),在每一步动态选择句子或停止提取,显著区别于只提取固定句子数的传统方法。
模型结构包含三个编码器:局部句子编码器(LSE)、全局上下文编码器(GCE)和提取历史编码器(EHE)。三者的结合有效捕捉句子本身内容、文档全局信息及已选句子集,显著提升摘要质量。
MemSum培训采用策略梯度强化学习,直接最大化ROUGE分数,且训练时采样高ROUGE得分的情节,提升训练效率和收敛速度。
实验数据集覆盖多个长文档领域(PubMed, arXiv, GovReport等);在PubMed, arXiv测试集上,MemSum在ROUGE-1、ROUGE-2和ROUGE-L指标上均优于基线及抽象摘要模型 。
在GovReport数据集上,MemSum表现尤为突出,深度贴近高“提取性”的金标准摘要,优于抽象式模型Hepos-Sinkhorn,适合技术含量高、语言严谨的长报告摘要生成。
消融实验表明:(1) 全局上下文编码器的缺失比局部编码器影响更大,(2) 提取历史编码器(EHE)显著降低冗余,(3) 独特的自动停止机制提高摘要质量和长度合理性。
通过构建冗余数据集验证,具有提取历史意识的MemSum模型提取句子重复率为0%,远优于无历史模型(重复41%),且性能稳定,高效避免了冗余句子。
人工评估显示,MemSum在非冗余和整体质量标准上显著优于NeuSum,同时自动停止机制使摘要长度更合适,文字更简洁。
总结:MemSum通过历史意识、多步策略及强化学习实现了长文档提取式摘要的SOTA性能,兼具高效性和高质量,是长文档自动摘要任务的有力工具。
核心论点与信息概述:
摘要方法分类与问题定位
文本摘要分生成式和提取式两类。提取式摘要直接从原文选句,更为语义和语法上稳健。当前主流提取模型基本分两阶段执行:句子评分与句子选择。传统模型的不足是未利用已提取句子的历史信息,导致容易选取重复内容,降低ROUGE分数。
MemSum创新点
将提取过程视为多步骤情节MDP,将句子状态分为局部内容、全局上下文和提取历史三部分。通过逐步更新状态,agent在每步决策时可考虑摘要当前内容,减少冗余。这是与传统单步MDP(只做一次整体选择)明显的区别。
编码器设计
使用双向LSTM编码局部句子,另有全局上下文编码器捕获句间关系,提取历史编码采用低维度注意力机制。
贡献总结
(1) 融合提取历史意识的多步MDP建模。
(2) 显著降低冗余,提高摘要紧凑程度。
(3) 在多种长文档数据集上实现SOTA。
(4) 人工评估显示摘要质量优良。
策略梯度强化学习(3.1节)
旨在最大化整个摘要的ROUGE加权奖励,梯度通过Williams算法计算,RL策略参数根据生成的动作序列和对应奖励进行更新。
多步情节MDP策略(3.2节)
每个时间步所做的决策包括选择“停止提取”或从剩余句子中选一个句子。该策略与之前单步提取不同,允许模型灵活决定摘要的句子数量,并在每步更新提取历史。
模型框架(3.3节)
训练(3.4节)
使用策略梯度算法,模型用ROUGE得分作为奖励,且引入惩罚函数鼓励摘要简洁(通过奖励除以提取句数+1)。训练采用从高ROUGE评分序列中采样的经验,促进快速且稳定收敛。
数据集
包含五个主要数据集:PubMed、arXiv、PubMed-trunc、GovReport、以及经典的CNN/DM。前四个均为长文本,平均文档长度远超CNN/DM,尤其GovReport和arXiv文档长度达到数千词。摘要长度与文档长度相对比例较小,形成典型长文档摘要环境。训练验证和测试集数量充足(详见图表4)。
对比基线
包含多种提取式方法和抽象摘要模型。提取式方法包括Lead、SummaRuNNer、Atten-Cont、Sent-CLF、Sent-PTR、MatchSum和NeuSum。抽象式则包含PEGASUS、BigBird、Dancer、Hepos等。还特别设置了Extractive Oracle模型作为理想上界。
实现细节
词嵌入用固定Glove 200维向量;编码器层数、注意力头数及超参数均详细说明。训练使用Adam优化器,学习率1e-4。模型训练运行于八个RTX 2080TI GPU集群,参数设置确保模型稳定收敛。提取句子时结合最大句数阈值和由模型输出的停止概率。
评价指标
采用标准ROUGE F1指标(ROUGE-1,ROUGE-2,ROUGE-L)评估性能,并包含后续的人为评估以验证结果合理性。
| 数据集 | 文档平均长度(词/句) | 摘要平均长度(词/句) | 样本量(训练/验证/测试) |
|---|---|---|---|
| PubMed | 2730/88 | 181/7 | 116,937 / 6,633 / 6,658 |
| arXiv | 5206/206 | 238/10 | 202,880 / 6,436 / 6,440 |
| PubMed-trunc | 408/13 | 185/7 | 83,233 / 4,676 / 5,025 |
| GovReport | 7932/307 | 501/18 | 17,517 / 974 / 973 |
| CNN/DM | 692/35 | 49/4 | 未详 |
| 模型变体 | R-1 | R-2 | R-L |
|---|---|---|---|
| MemSum | 49.25 | 22.94 | 44.42 |
| w/o LSE | 48.12 | 22.04 | 43.36 |
| w/o GCE | 46.85 | 20.31 | 41.95 |
| w/o EHE | 48.08 | 22.77 | 43.55 |
| with GRU-EHE | 49.11 | 22.86 | 44.28 |
| w/o auto-stop | 48.25 | 22.63 | 43.70 |
| with “STOP” | 47.18 | 21.81 | 42.20 |
| 模型 | R-1 | R-2 | R-L | 重复率 |
|---|---|---|---|---|
| MemSum | 49.16 | 22.78 | 44.39 | 0% |
| w/o auto-stop | 48.21 | 22.59 | 43.76 | 0% |
| w/o EHE | 42.82 | 18.18 | 36.68 | 41% |
| w/o EHE + Trigram规则 | 46.85 | 19.93 | 42.40 | 0% |
| 评价指标 | NeuSum(实验1) | MemSum(实验1) | NeuSum(实验2) | MemSum无停(实验2) |
|---|---|---|---|---|
| 综合质量 | 1.58 | 1.37 | 1.57 | 1.38 |
| 覆盖率 | 1.46 | 1.49 | 1.44 | 1.51 |
| 非冗余 | 1.67 | 1.28* | 1.65 | 1.30* |
| 摘要句子数 | 7 | 5.6* | 7 | 7 |
| 摘要词数 | 248.8 | 189.3* | 263.6 | 239.5* |
本报告不涉及金融资产估值或市场预测的估价分析,模型本身为自然语言处理领域技术研究与算法创新,故无估值模型、估价方法、目标价、敏感性分析等相关内容。
MemSum代表了一种创新且实用的长文本提取式摘要技术。核心创新在于将摘要提取建模为基于多步情节MDP的序列决策过程,强调历史提取信息的编码和利用,以有效避免冗余句子的反复选取并智能控制摘要长度。其模型架构结合局部句子特征、全局句间上下文和历史信息编码,实现了对文本结构的全方位理解。
在PubMed、arXiv、GovReport、PubMed-trunc等多种长文档数据集对比实验中,MemSum均展现出领先的ROUGE指标,使得纯提取摘要模型在长文本任务中超越了部分先进抽象式和传统提取式模型。消融实验和冗余测试进一步验证了提取历史模块和自动停止机制的重要性。人工评估确认了摘要的非冗余性和整体质量优势。
报告中图表系统详实且数据完整,支持理论推导与实证验证。模型训练策略利用强化学习中的策略梯度优化,结合高ROUGE奖励采样,确保训练稳定且高效。
该方法为长文档自动摘要领域提供了高性能解决方案,并展现了强化学习技术在NLP任务中的广阔应用前景。未来对模型在多样文本域的适应性、摘要流畅性的提升和提取历史编码结构的优化将是重要研究方向。
总之,报告呈现了专业、完备且富有洞察力的研究成果,基于丰富实验数据和严谨方法论,明确支持MemSum作为长文档提取式摘要领域的新标杆。
图表1:
图表2:
图表7:
图表11:
20231101-华安证券-华安证券“学海拾珠”系列之一百六十四:MemSum,基于多步情景马尔可夫决策过程的长文档摘要提取.pdf