本报告基于FinBERT预训练模型升级分析师研报文本挖掘框架,通过对研报文本进行FinBERT隐藏层编码,替代传统词频向量,结合XGBoost模型二次训练,实现文本因子收益显著提升。新因子forecast_adj_txt_bert多头年化收益较旧版上升近5个百分点,回测期2009年至2022年表现稳健。并针对文本截断与分段、FinBERT微调、编码层次、因子融合及单纯FinBERT微调等多维度进行了系统扩展测试,均显示模型升级效果稳健非偶然。不同业绩及评级调整场景下升级文本因子均见提升。报告展现了三种基于该因子的主动量化组合构建案例,其中不等权组合年化收益45.90%,相对中证500超额36.35%。此外因子与传统多因子及Barra风格因子相关性较低,具有alpha特异性,覆盖沪深300和中证500标的股票,具备较强实用价值和拓展潜力
研究背景与方法升级
FinBERT模型与微调技术
模型训练流程及回测表现
扩展测试及优化验证
文本因子相关性与覆盖度
不同场景下的因子升级效果
应用案例分析
主动量化组合风险与潜在优势
核心论点与目标:
本报告在华泰之前几期文本选股研究的基础上,重点突破文本特征的表达形式,从之前的“词频向量”升级到FinBERT隐藏层编码,通过对分析师研报文本更充分的语义理解,辅以机器学习二次训练,显著提升文本因子的alpha收益表现,形成风格独特且选股效果优异的主动量化投资模型。
过去方法回顾:以词频矩阵加XGBoost浅度学习模型定量刻画研报文本情绪,取得较为有效的文本PEAD及FADT选股因子成果。标签采用研报发布前后两日的超额收益,但词频模型在情绪区分上对非极端层级效力不足。
逻辑瑕疵:词频表示忽略了上下文中词语组合的语义差异(“成本上调” vs “盈利预测上调”),导致对文本的语义损失。
改进方案:引入预训练语言模型BERT,使用更丰富的上下文语义编码替代词频向量。具体升级路线是FinBERT微调后,对于每篇研报文本提取CLS层768维隐层特征作为文本向量输入XGBoost进行二次训练建因子。
FinBERT介绍:
FinBERT微调:使用带情绪标签的万得新闻舆情数据(14.8万条),采用Adapter-BERT技术进行参数高效微调,训练准确率达95%以上,保证FinBERT隐藏层能充分表达语义。
研报文本编码:
超参数与训练细节:
基础模型优异表现:
五组扩展测试总结:
| 测试编号 | 内容 | 结论 |
|---|---|---|
| 1 | 文本截断(前N字) vs 分段 | 均有效,分段更稳健 |
| 2 | 是否微调FinBERT | 有效,且微调效果更佳 |
| 3 | CLS层编码 vs 全连接层编码 | 均有效,CLS编码效果略优 |
| 4 | CLS编码 + 词频向量结合 | CLS编码已涵盖大部分信息,结合略有提升 |
| 5 | 仅用FinBERT微调(无XGBoost) | 无效 |
样本长文本处理:
是否需FinBERT微调:
编码方式比较:
融合词频向量:
仅FinBERT微调尝试:
业绩发布场景:
评级调整场景:
案例一:等权增强组合
案例二:不等权增强组合
案例三:市值限定(100亿以上)增强组合
案例四:沪深300内精选
图表1、4、5 (第2-4页):
图表6-9、38-40、50-53(第4、5、19-22页):
图表10-12、84-87(第5、32-33页):
图表17(第10页):
图表18(第11页):
图表64-67(第25-26页):
图表42-49(第20-21页):
图表54-57、58-61(第23-24页):
图表79-83(第30-31页):
报告主题为文本挖掘与机器学习选股模型,并不涉及个股公司估值,因此无传统估值分析。整体关注因子alpha表现和机器学习模型收益与稳定性,而非估值指标。
报告明确风险提示:
这体现对AI与量化投资模型普遍风险的合理提醒,但报告未特别细化针对文本本身可能存在的领域特异风险(如政策变动、市场风格转变等)。
报告数据周期全面(2009年至2022年),但FinBERT为2020年末及后投入使用,新引入的训练样本量(如舆情标注14.8万条)相对有限,尽管Adapter-BERT缓解训练难度,模型泛化仍需长期验证。
多处回测计算因子均基于盈利预测调整场景,模型依赖当期标签定义,对标签定义合理性及非事件文本表现缺乏详细讨论。
纯FinBERT微调无XGBoost效果较差,显示单一端到端深度学习方案难以奏效;模型设计为先语义编码后机器学习复合,体现主观拆分但也可能造成功能分离上的效率损失。
组合案例选股数量相对较少(20-30只),因子组合策略依赖多因子增强,因子之间的稳健性、行业配置和市场状态适应性没有详细披露。
高alpha回测收益伴随波动率较高,最大回撤控制尚需加强,可能存在较大市场时点依赖与风控需求。
关联性分析表明,文本因子未与传统因子强相关,理论上具备_alpha_补充属性,但实际组合多因子混合,独立因子贡献率及边际改善体现有限。
文本特征升级是选股alpha提升的关键:FinBERT隐藏层768维编码明显优于传统基于词频的文本向量,因子收益在过去逾13年大幅提升,尤其多头第一层年化收益由22.87%提升至27.50%,相对基准超额收益提升接近5个百分点。
FinBERT微调不可或缺,Adapter-BERT极大加速微调过程:通过万得数据进行金融语义微调使得模型准确率稳定提升至95%以上,避免了原始预训练模型编码语义表达贫乏的缺陷。
结合监督机器学习模型是提升关键:FinBERT编码本身无法完全替代二次训练,XGBoost模型在已有标签引导下有效将语义信息转化为选股信号,是提升alpha的核心环节。
多场景适用,业绩发布与评级调整等均获得提升:文本因子在业绩发布、评级调整及FADT场景下表现均优于传统方法,说明模型的普适性和稳定性较强。
长文本分段处理及编码方式优化进一步提升选股效力及稳定性。
文本因子相关性较低,具备新型alpha补充价值。
基于文本因子的量化组合回测收益显著,夏普表现优异,组合风险有限,且多权重调整策略对收益有积极贡献。
市值与指数限定组合均显示文本因子alpha在不同投资限制条件下具备较好应用适用性。
从多头第一层净值增长曲线(图表8、38、50、54、58、62等)可见,FinBERT新版因子持续跑赢词频向量版,显示了基于深度语义理解的文本分析模型有效捕捉市场增量信息。
分层回测不同因子层级间表现差异告知因子具有良好排序能力,尤其第一层与其他层差异显著,支持模型能够较好区分“高情绪”股票。
扩展测试涉及微调、编码层级选择及文本预处理方式,图表均显示升级模型在各角度均优于或至少不弱于传统或基础版本,证明提升非偶然。
组合层面等权及不等权两种,都显著跑赢中证500,最大回撤约45%-48%,夏普接近1.6,显示稳健的风险调整收益。
华泰证券研究团队对基于FinBERT深度语义编码并结合XGBoost二次学习的文本选股因子给出积极肯定,认为此模型能显著增强券商研报文本的alpha信息提取能力。基于文本因子的主动量化选股策略表现优异,且在多种应用场景均表现稳健。报告提醒量化模型具有历史经验性质,未来可能面临失效风险,投资者应审慎使用。整体来看,报告的评级立场倾向于积极探索与应用基于先进NLP技术的量化因子,支持将FinBERT文本向量因子纳入多因子投资体系,提高股票选股精度和收益性。
该报告系统性梳理了分析师研报文本选股因子的生成流程,成功引入了当前最先进的NLP技术FinBERT,并结合机器学习方法极大提升了文本alpha的表现力。通过详尽的模型设计、参数调优、扩展测试和多角度应用验证,展示了金融文本挖掘的深度升级路径和实证成果。对于量化投资中希望充分利用研究报告和舆情信息的从业者和研究人员,报告揭示了方向和方法论,兼具金融专业性和AI技术深度,具有较大的实操与研究参考价值。
(所有结论均基于报告数据及论述,)
华泰人工智能系列63:再探文本FADT选股.pdf