证券研究报告详尽分析报告
《排序学习对GRU选股模型的增强》
作者: 高智威、王小康
发布机构: 国金证券股份有限公司
发布时间: 2024年9月24日15:15(日本时间)
主题: 量化选股模型——利用排序学习提升GRU模型的选股能力及策略表现
一、元数据与报告概览
本篇报告聚焦于深度学习在量化选股中的应用,尤其是基于Gated Recurrent Unit(GRU)模型结合排序学习方法提升选股效果的研究。报告标题为《排序学习对GRU选股模型的增强》,由国金证券研究所高智威、王小康共同撰写,旨在展示如何通过引入注意力机制和排序学习损失函数,优化传统基于GRU的时序预测模型以增强量化策略的表现。
核心论点聚焦于:
- 通过结合注意力机制改良传统GRU模型,形成AGRU(Attention-GRU)结构,在多项因子表现指标上超越传统GRU。
- 引入排序学习(Learning to Rank, L2R)思想及相关损失函数替代传统均方误差(MSE)回归损失,提升因子排序准确性,从而改善截面选股效果。
- 针对过拟合问题,提出使用多个最优epoch模型参数的均值预测策略,以提升模型的样本外稳健性。
- 结合上述技术,充分发挥AGRU模型优势,构建指数增强策略,在沪深300、中证500、中证1000等主要宽基指数中得到显著年化超额收益及较低超额回撤。
该报告不仅指出理论与结构的改进路径,还提供详实的实证结果和风险提示,整体展现了机器学习模型在中国资本市场量化选股应用中的最新进展。,1,15,16]
二、逐节深度解读
1. 超越传统GRU,融入注意力机制(章节一)
1.1 模型介绍
- GRU模型背景:
GRU为RNN变体,利用门控机制解决长时序数据中的梯度消失问题,有效掌握长短期记忆。近年来,Transformer和TCN(卷积网络中的一类)等编码器在时序预测中表现突出,已成主流编码器。
- 融合主流编码器思路:
双阶段注意力机制的DA-RNN模型为典型,将Encoder与Decoder都引入注意力机制,提升模型对多维输入特征选择及长时依赖的捕捉能力(图表1、2)。
- 具体技术细节:
1)Encoder阶段利用输入注意力机制(Input Attn)对不同维度特征赋加权重,用公式 ( \alpha_t^k ) 表示特征k在时间t的重要性,点乘原始特征后输入LSTM编码。
2)Decoder阶段利用时序注意力机制(Temporal Attn)对时间步进行动态加权,公式中 ( \beta_t^k ) 指示第k个时间点对当前时刻t的贡献,通过context向量结合标签信息输入LSTM产出预测。
- 实际问题及改进:
该模型对算力需求极高,显存占用巨大;动态加权未明显提升预测准确度;Decoder端依赖未来标签导致信息泄露,难以在月度数据上落地使用。
因此,报告提出改良策略:只对特征层面采用注意力机制,结合多步GRU得最终预测,避免无效复杂计算和信息泄露风险,使用60天原始量价(日频高开低收、成交量、VWAP)作为输入特征(图表3),2,3].
1.2 注意力机制GRU实证表现
- 在全A股池内,AGRU模型相较传统GRU表现更优,IC均值从14.41%提升至14.53%,多头信息比率及夏普比均有提升,收益稳定性增强(图表4)。
- 对不同指数池进一步测试,AGRU在沪深300等大盘股池中提升更加显著,多头年化超额收益率从15.96%提升至17.24%,表明注意力机制对大盘股选股能力提升明显(图表5).
2. 排序学习介绍及选股效果(章节二)
2.1 排序学习算法原理
-
传统模型通常采用MSE作为损失函数,回归未来收益,但选股本质是股票间收益相对排序的准确性,绝对值预测非主要目标。
-
排序学习(Learning to Rank)起源于搜索引擎,目的是对查询结果进行相关性排序,数据结构天然适合量化中不同交易日股票收益排序的场景。
-
三大类算法简介:
- PointWise:单个样本的回归/分类,不考虑样本间相互关系。
- PairWise:关注两两样本的排序对,常用损失函数如Hinge Loss(最大间隔)、Logistic Loss(概率模型)、LambdaRank(引入NDCG权重)。
- ListWise:关注整体序列排序,优化评价指标NDCG等,使用ListNet、ListMLE等概率方法。
-
重点说明NDCG指标(Normalized Discounted Cumulative Gain):重视序列前端排序准确性,即排序靠前样本权重更大,解决传统PairWise不关注排序位置的问题(图表6、7)。
-
排序学习损失与MSE回归的示例对比表明,排序学习对排序错误惩罚更合理,更符合选股本质(图表8、9),5,6].
2.2 排序学习实证结果
- 统一使用AGRU作为Backbone,测试多种排序学习损失函数(HingeLoss、LambdaNDCG、ListMLE等)与MSE回归的性能对比(图表10、11)。
- 发现排序学习损失整体超过传统MSE损失,部分损失(如LambdaNDCG2、NeuralNDCG)在因子收益稳定性上甚至表现最优,但部分ListWise算法因性能不突出。
- 多损失函数表现互补,相关性分析后选取差异性大且表现优异的三种排序损失(DCGHinge损失、LambdaNDCG2、NeuralNDCG)与MSE回归结果做等权合成,以综合提升收益稳健性(图表14、15)。
- 合成策略在不同股票池中均优于单一损失函数,IC均值、信息比率、年化超额收益均有所提升(图表16、17),8,9].
3. 利用多个Epoch结果对抗过拟合(章节三)
- 早停通常选取验证集损失最小的单轮模型参数预测,但该选择可能依赖局部最优且可能过拟合验证集,导致样本外表现不理想。
- 报告提出取验证集损失最低的多个epoch(最优5个)模型参数,分别预测并对因子值取均值的方法,能抑制过拟合风险,提升样本外的稳健性。
- 实证数据说明,5轮均值模型相较单轮模型在IC均值、信息比率、超额收益及稳定性指标均有提升(图表21~23)。
- 多随机种子训练进一步保障结果稳健(图表18~20),10,11].
4. 结合排序学习与多轮参数对抗过拟合的指数增强策略(章节四)
- 使用均值方差优化模型,加入跟踪误差控制和个股权重偏离限制,投资标的限制为指数成分股,跟踪误差最大5%,以最小化策略波动同时捕捉超额收益。
- 回测区间:2015年2月至2023年12月,月度调仓,假设单边交易费率0.12%(双边0.24%)。
4.1 沪深300指数增强策略
- 年化超额收益16.60%,超额最大回撤3.78%,信息比率3.90,表现良好。
- 策略净值高于沪深300指数及较纯MSE模型(图表24、25)。
- 分年度收益表现优秀,除2019和2023年低于10%外,其他年份均实现稳定超额收益(图表26、27)。
4.2 中证500指数增强策略
- 年化超额收益19.20%,超额最大回撤4.25%,信息比率3.76,波动及回撤较沪深300略高但收益水平也提升(图表28、29)。
- 分年度表现稳健,但部分年份波动较大,超额收益多数超过10%(图表30、31)。
4.3 中证1000指数增强策略
- 该策略年化超额收益率最高达29.81%,最大超额回撤为8.04%,表现最为亮眼(图表32、33)。
- 净值曲线显示持续稳步上升,年度超额收益除2023年外均超20%(图表34、35),12,13,14,15].
三、图表深度解读
- 图表1(编码器融合图示):清晰展现了RNN(GRU)、Transformer和CNN(TCN)三类主流编码器的融合路径,突出本报告选用的DA-RNN结构为RNN+注意力机制的双阶段结合。
- 图表2(DA-RNN结构示意):细致呈现DA-RNN编码器端的输入注意力机制和解码器端的时序注意力机制,结合公式定义对权重计算进行说明。
- 图表4、5(GRU与AGRU因子指标对比):AGRU总体现收益及风险调整能力略优于GRU,IC均值与信息比率提升表明模型对未来排序的预测能力增强,特别是在沪深300大盘股池表现更佳。
- 图表6、7(排序学习算法结构与NDCG示意):说明排序学习数据结构适配量化截面选股,以及NDCG指标重视排序靠前结果的合理性。
- 图表8、9(排序损失与MSE损失对比示例):直观反映排序损失更准确惩罚排序错误样本,符合理想选股目标。
- 图表11、15(不同损失函数因子表现比较表):PairWise排序学习表现普遍超越传统MSE,个别结合NDCG的损失函数具备更好的风险控制指标。
- 图表14(损失函数相关性矩阵):揭示排序损失函数间的相关性差异,为多损失函数合成提供依据。
- 图表16、17(因子净值走势):各排序学习结合因子多头组合净值稳步优于MSE因子,明确表现出增强排序准确性带来的投资回报隔离。
- 图表18
20、2123(验证集损失与多轮均值效果):清楚展示验证集损失波动示意、梯度下降路径、选取多轮模型参数均值的逻辑、及其提升样本外表现的效果。
- 图表24~27(沪深300指增策略指标与净值):表明结合排序学习与多轮参数均值策略后策略整体收益、夏普比、最大回撤均优于传统回归基线,净值曲线呈显著改善趋势。
- 图表28
31(中证500指增)与图表3235(中证1000指增):显示中证500和1000指数增强策略的稳健表现在超额收益率、信息比率方面均更优,且波动与回撤控制在合理范围内,长期净值稳步上扬。,2,3,4,7,8,9,10,11,12,13,14,15]
四、估值分析
报告定位为量化模型研究及策略构建,未涉及传统的企业估值方法。策略构建基于模型输出的预期超额收益因子通过均值方差优化(Markowitz模型)进行投资组合权重确定;约束条件控制跟踪误差不超过5%,个股权重偏离限制1%,投资范围限定为指数成分股。由此保证超额收益与风险的合理权衡。报告不涉及DCF或市盈率等基本面估值,重点在机器学习因子表现及风险收益特征。
五、风险因素评估
报告明确列出两大风险:
- 模型时效性风险:
所有结果基于历史数据统计及模型测算,政策和市场环境变化可能导致模型失效或效果下降。
- 回测假设风险:
策略收益基于历史回测及一定假设,若实际交易成本上升或其他执行条件变差,可能导致策略表现不佳甚至亏损。
风险提示警示投资者关注模型适用环境和交易成本等现实限制因素,有助于理性投资决策。,16]
六、批判性视角与细微差别
- DA-RNN模型虽然理论上先进,但实际应用层面算力消耗大且容易信息泄露,报告作者明智选择简化模型结构,聚焦特征层注意力与多步GRU结合,体现实用性考虑。
- 排序学习损失带来提升,但多任务学习尝试未达预期,可能表明技术融合仍需深入探索。报告采取简单线性加权策略,较为务实。
- 多轮最优epoch平均预测策略有效缓解过拟合问题,但增加了预测复杂度,实际应用需要权衡计算资源和实时性。
- 指数增强策略表现亮眼,但依赖历史回测数据及明确假设,未包含完整市场极端事件的考量,现实风险仍需谨慎评估。
- 多个排序损失函数效果互异,且部分排序损失与回归模型相关度较高,可能导致策略多样性受限,长期效果和交易成本影响需进一步观察。
- 分股票池表现上,升级模型在大盘股池收益增长更明显,暗示模型对大盘股票的预测能力相对优于小盘股,偏向稳健型投资。
- 报告中部分表格格式复杂,数据量大,阅读时需关注具体指标定义和单位,避免误读。整体数据透明,提升了分析的可信度。
七、结论性综合
本报告全面系统地探讨了如何利用注意力机制和排序学习增强基于GRU的量化选股模型,取得了以下关键发现和结论:
- AGRU模型设计与优势:
通过替代性地在特征层面引入注意力机制配合多步GRU,避免传统DA-RNN的算力瓶颈和信息泄露,获得更优的选股因子表现。
- 排序学习重要性与实现:
传统MSE回归损失不足以刻画股票间收益排序。引入排序学习(尤其是PairWise和部分ListWise损失函数)能聚焦因子在截面排序的准确性,显著提升投资组合的超额收益和风险调整表现。
- 多损失函数合成策略:
通过分析损失函数间相关性,选择表现优异且彼此差异较大的排序损失与传统回归结果等权合成,模型综合性能得到提升。
- 过拟合缓解策略:
早停后的单一最优epoch模型参数不一定泛化最好,采用多个最优epoch模型参数预测取均值策略,有效缓解过拟合,提升样本外表现的稳定性。
- 实盘指数增强策略验证:
基于上述多项改进的AGRU模型,在沪深300、中证500、中证1000等主要指数中构建指数增强策略,获得显著年化超额收益(16.60%-29.81%)且控制风险水平合理,表现优异且稳健。
- 风险与限制说明:
历史回测为基础,模型时效性风险及交易成本变动风险依旧存在,实际应用时需谨慎对待。
综上,报告展示了机器学习领域中排名学习方法对时序神经网络特别GRU模型进行优化的显著价值,既提升因子质量,也增强策略风险调整能力。其提出的多轮epoch预测均值方法为量化策略的稳健性提供了实用方案,提供了量化投资界重要的实证和理论参考。
重要图表示例展示
图表2:DA-RNN模型结构示意图
图表4:GRU与AGRU因子多项指标对比(全A)
| 因子 | IC均值 | IC_IR | 多头年化超额收益率 | 多头信息比率 | 多头超额最大回撤 | 多空夏普比率 | 多空最大回撤 |
|---|
| GRU | 14.41% | 1.29 | 17.97% | 2.60 | 4.97% | 4.12 | 11.63% |
| AGRU | 14.53% | 1.35 | 17.98% | 2.75 | 4.55% | 4.29 | 12.49% |
图表11:排序学习不同损失函数因子表现对比(全A)
| 损失函数类别 | 损失函数名称 | IC均值 | IC_IR | 多头年化超额收益率 | 多头信息比率 | 多头超额最大回撤 | 多空夏普比率 | 多空最大回撤 |
|---|
| PairWise | Hinge Loss | 14.48% | 1.37 | 18.34% | 2.44 | 4.88% | 3.87 | 11.37% |
| PairWise | Lambda NDCG2 | 11.98% | 1.34 | 19.51% | 2.78 | 3.68% | 5.00 | 5.63% |
| ListWise | ListMLE | 13.60% | 1.07 | 13.25% | 1.53 | 6.49% | 2.82 | 17.12% |
| 回归 | MSE | 14.42% | 1.34 | 17.63% | 2.70 | 3.99% | 3.73 | 15.15% |
总结
本报告通过严谨的理论分析和基于中国股票市场的详实实证,指出了排序学习思想和注意力机制的结合如何有效提升深度学习时序神经网络的量化选股能力。通过多轮模型参数的综合预测,有效对抗过拟合问题,最终构建实现了具有超额收益和风险控制表现良好的指数增强策略。该研究为量化投资中机器学习模型的应用与优化提供了先进且实用的指导思路,是量化与机器学习交叉领域的有益探索。
所有内容均来源于报告全文内容整理和解读,页码参见文中对应标注 [page::x]。