本报告基于东方证券AI量价模型框架,提出基于知识蒸馏的KD-Ensemble模型改进alpha因子挖掘,加入小单和盘口类因子补充Level-2数据,结合风险中性生成技术显著提升因子选股能力和稳定性。小单早盘占比、净流入及收益率因子表现优异,采用分位数划分优于金额划分。知识蒸馏模型在多宽基指数均获得超过40%的年化超额收益,风险中性模型最大回撤明显降低,适用于指数增强策略,构建的Barra及NLSize风控组合表现稳健,2024年超额收益持续且最大回撤控制良好,为量化投资提供强有力策略支持
| 模型 | RankIC | ICIR | Top组年化超额收益 | 最大回撤 | 稳定性表现 |
|---|---|---|---|---|---|
| 原数据集 | 16.36% | 1.56 | 49.14% | -21.32% | 基准模型 |
| 知识蒸馏 | 16.69% | 1.60 | 51.73% | -23.05% | 超额收益提升 |
| 扩充L2数据集 | 16.70% | 1.59 | 51.06% | -23.63% | 增量显著,选股能力增强 |
| 风险模型 | 15.83% | 1.63 | 47.96% | -7.48% | 最大回撤大幅降低,稳定性显著增强 |
报告题目: KD-Ensemble:基于知识蒸馏的 alpha 因子挖掘模型
报告系列: 因子选股系列之一〇八
作者及联系方式: 杨怡玲(yangyiling@orientsec.com.cn),陶文启(taowenqi@orientsec.com.cn)
发布机构: 东方证券研究所
发布日期: 2024年8月19日
研究主题: 本报告致力于量化投资中的alpha因子挖掘和选股模型构建,重点介绍基于Level2数据的小单和盘口数据因子补充、知识蒸馏集成模型设计、风险中性因子构建和综合因子选股效果,最终展示构建的alpha因子在大盘至中小盘宽基指数上的选股及指数增强策略实际表现。
核心论点与评级信息:
报告主要观点是通过扩充Level2数据集的因子,加入小单和盘口的信息,基于知识蒸馏思想将树模型和神经网络集成,提升模型对极度非线性关系的拟合能力。引入风险中性模型,抑制市场风格轮动带来的回撤,提高波动期的稳定性。此方法显著提升了alpha因子的预测能力、超额收益及稳定性,能直接被用于指数增强策略。报告提到的风险包括量化模型失效和极端市场冲击,投资评级未明确,需结合实际投资环境审慎应用。
作者回顾了此前系列中构建的基于多频率量价数据及基本面数据的端到端AI量价模型。模型结合了多数据频率(周、日、分钟、L2、基本面),利用ResNet抽取特征,RNN进行时间序列学习,通过决策树进行非线性加权形成最终alpha因子。Level2数据因子多基于大单,存在信息不全面的问题。
改进设计包括:
这一节明确了研究的框架和动机,强调模型的创新点及实际风险管理措施。,5]
2.1 回测框架说明
因子值经20个交易日滚动平均,使用RankIC(因子分组收益排序与未来收益的相关系数)和ICIR(信息比率)作为评价指标。其中多空收益通过多头组合减空头组合得出,回测不计交易成本。
2.2 小单因子构建及效能
小单定义分两种途径:
小单早盘占比等因子定义以9:30-10:00小单成交额占全天比例为例。
回测数据显示(图2-5,7-10页):
2.3 盘口类因子构建及表现
盘口因子基于十档买卖盘价格和挂单量的分歧度,量化市场供需失衡感。定义通过价格、量差加权积分并做zscore处理。
回测显示:
2.4 大单因子与小单、盘口因子相关性
相关矩阵显示新构建的早盘小单占比、价格分歧度、挂单量分歧度因子与大单因子相关性低,信息互补性强,验证新因子对原有因子的有效补充。小单占比分位数版与大单占比较相关,金额版相关性低,符合预期。
2.5 RNN合成因子表现对比
将小单和盘口因子加入L2数据后,训练出的RNN合成因子回测表现好于原数据集合成因子,尤其在多头收益区分度和胜率上表现更优。2024年虽2月回撤加剧但反弹更快稳定,整体策略超额收益和稳定性均有所提升。
以上章节充分展示了信息补充、因子构造及其量化绩效,验证了构建的小单和盘口因子合理有效,有助于提升模型选股能力和鲁棒性。
介绍知识蒸馏(Knowledge Distillation)基础,过往主要用于神经网络模型压缩。教师模型复杂且性能优,先行训练后“教导”学生模型。知识可来自响应、特征或关系,多样蒸馏形式(离线、在线、自蒸馏)。
本研究独创性地将知识蒸馏用于因子单元动态加权模型,通过教师模型(树模型)有效过滤有效信息,将过滤信息和原始输入共同输入给学生(神经网络)模型训练,兼得树模型泛化与分类型数据处理优势及神经网络强非线性拟合能力。
知识蒸馏流程详见图23,训练过程由教师模型输出引导学生模型拟合原始标签并加入平滑损失,综合训练达到高效学习。
构造的新模型称“KD-Ensemble”,训练及预测流程(图24)体现了教师模型信息传输至学生模型并联合监督优化,公式详述了教师模型以MSE拟合标签,学生模型在教师信息指导下同时学习预测目标,参数λ调节知识融合强度。
该设计思想创新且逻辑清晰,成功解决树模型线性局限与神经网络泛化弱点的互补,提升alpha因子对未来收益率的拟合能力与稳定性。
基于年初机器学习因子大幅回撤,源于市场风格轮动预测失误,作者在生成alpha因子时引入风险因子,并通过约束确保alpha因子与风险因子正交,减少因风格轮动带来的风险暴露。
设计为共享输入和RNN单元参数,分别输出alpha因子和风险因子,损失函数由三部分组成:
此设计致力于剥离alpha因子中的风格风险暴露,提升因子稳定性和抗风险能力,成功抑制了轮动导致的回撤,使风险因子捕捉市场风险信息更纯净,有效提升策略风险调整后的表现。
基于中证全指及主流宽基指数回测合成因子性能:
通过对沪深300、中证500、中证1000三大宽基指数构建指数增强策略,采用Barra与NLSize两类风险模型进行风控,包括行业、市值等风险因子暴露限制,组合在周频调仓和换手率、成分股占比不同约束下模拟交易,考虑交易成本。
沪深300指增策略(图32-37页):
中证500增强策略(图38-43页):
中证1000增强策略(图44-49页):
综合来看,新模型生成的因子不仅理论和回测指标优秀,在实际指数增强组合构建中表现稳健,亦能平衡换手率与风险控制,适用多样化的投资策略和资产池,具备良好推广和实用价值。
报告整体设计合理、创新点突出、实证充分,适合做为量化选股及增强策略构建的前沿参考方案。
该流程图清晰展示了数据预处理、因子单元生成与动态加权三个主要步骤。原始日度、周度、分钟线K线及基本面数据经过特征提取和残差网络加工后,通过RNN产生弱因子,最终使用动态非线性加权(基于决策树)得到模型预测分数。
该流程彰显多源异构数据融合,通过深度模型挖掘复杂非线性关联,动态赋权风险与收益因子,是模型高效选股核心。
通过表格和多套分组年化超额收益及时序RankIC曲线,对比金额划分与分位数划分两种定义的小单因子(早盘占比、净流入、收益率)。
关键点:
附图(7页)中柱状收益和时序曲线描绘了过去十年持续累积的alpha信息,展现因子稳定性与趋势。整体符合短期内捕捉小单资金流动及风险偏好的分析预期。
两类因子均表现良好,价格分歧度在中证1000及全指范围效果明显优于挂单量分歧度,换手率和最大回撤指标反映选股灵活且不易过拟合。
时序RankIC显示价格分歧度经历波动期后维持稳定增长,挂单量分歧度近年表现衰退,揭示因子信息内容变化程度。图18-19展示了各等级分组多空收益,验证了因子选股效力。
新因子与传统大单因子区别明显,提供了信息互补性。
两种划分标准的相关性矩阵均显示小单因子和盘口因子与大单因子基本独立,相关系数多低于10%,表明引入的新因子可以有效提供增量选股信息。划分不同方式间存在一定差异,但整体稳健辅助模型,避免因子冗余造成过拟合风险。
表格对比原始与扩充数据集RNN合成因子指标,扩充数据集表现明显更优,无论是RankIC提升0.4%绝对值,多头胜率(从89.3%提升至92.9%)和年化超额收益均更优。
今年表现虽波动接近,但新模型回撤相对小且反弹快,表明模型信息利用更全面、加权策略更优。
图23形象展示教师到学生的知识传递过程,来源于各层神经元响应等的"知识"被提炼和转移。
图24显示本研究如何用教师(树模型)引导学生(神经网络),在训练阶段将教师预测信息融入学生损失函数,同时仍依据真实label训练,推理时仅用学生模型。这种设计确保信息过滤及非线性捕捉兼顾,为提高模型泛化打下基础。
RNN结构共享模型参数同时输出alpha因子和风险因子,损失函数除均方误差外加入了正交损失和风险因子R方约束,保证两组因子互相独立且捕捉不同信息。
图示清晰许运作机制,设计旨在有效分离市场风险,提升模型对异常市场风格负面影响的抵御力。
表格与分组收益热力图表明知识蒸馏及扩充数据模型均优化了选股排名及年化超额收益,风险模型虽超额稍弱但显著减少回撤和波动,稳定性最好。
相关系数矩阵及风格暴露柱状图显示四模型生成因子高度一致,但风险暴露水平因模型不同略有差异,风险模型整体风险暴露最低,有利风险控制。
首尾两页系列图表详尽展示沪深300、中证500及中证1000指数增强组合在不同换手率和成分股占比约束下的年度超额收益、最大回撤、信息比率、平均持股数及净值曲线。
结果显示:
报告主体为量化因子模型研发和策略表现展示,未涉及传统公司估值内容,因而无DCF、市盈率等估值模型分析章节。
报告明确风险主要包括:
风险管理主要通过引入风险中性因子、降低风格和因子暴露,采用多模型集成及更稳健的加权手段缓解。同时,报告提醒投资者需紧盯模型表现,动态调整。风险提示符合量化投资通行规范,客观充分。,29]
报告整体条理清晰、数据详实、创新性强,对传统模型缺陷识别准确,提出的因子补充和知识蒸馏方案逻辑合理且有实证支持。
整体而言,报告对因子设计和风险管理均持谨慎务实态度,缺陷与风险均有提及。
本报告系统构建并验证了基于Level2小单与盘口数据补充的alpha因子体系,结合知识蒸馏集成树模型与神经网络的KD-Ensemble方法,进一步引入风险中性设计,成功增强了因子对市场极端及非线性动态的适应能力。
小单早盘占比、净流入、收益率因子及盘口价格和量分歧度因子补充了原有大单因子信息,表现出良好且稳定的选股预测能力,且信息相关性较低带来有效的模型增益。知识蒸馏融合了树模型和神经网络优点,有助模型捕捉非线性依赖,合成因子选股效力及年化超额收益显著提升。风险中性因子设计有效隔离风格风险成分,令模型在2024年极端震荡期表现稳健,最大回撤显著缩小,风险调整表现优异。
多维指数增强策略应用进一步验证了因子和模型的实用性,适应不同市值和风控约束,实盘交易成本和流动性约束考虑充分,展现出业内顶尖的alpha挖掘与风控能力框架。
本研究成果为量化投资策略构建提供了创新范式和可行路径,强烈建议投资者结合自身需求与市场环境,开展动态适配与风险管理,提升投资运营效率和投资组合稳健性。
本文报告通过创新的知识蒸馏方法融合同步利用树模型与神经网络特性,结合细致的Level2小单与盘口因子补充及风险中性设计,提升了alpha因子预测精准度和策略稳定性,为量化选股和指数增强提供了坚实且领先的技术路径和实证支撑。投资者应合理把握模型风险,动态优化配置,发挥该研究成果的最大价值。
,1,2,4-29,31]
因子选股系列之一〇八:KD-Ensemble 基于知识蒸馏的alpha因子挖掘模型.pdf