本报告提出了MASTER,一种结合市场信息进行自动特征选择的新型股票价格预测Transformer模型,通过交替的行业内时间序列聚合和跨股票时间步相关性捕获,实现了对瞬时与跨时间股票相关性的高效建模。实验在中国股市CSI300和CSI800数据集上验证了其优越性,较当前最优方法在多项排名和组合指标上提升显著,且可视化结果揭示了动态、非对称和稀疏的股票间跨时间相关结构。
MASTER创新性提出市场引导门控机制,根据市场状态动态调整特征权重以实现自动特征选择,有效适应市场变化。
在股票内部时间序列使用单层Transformer编码器进行双向聚合,形成局部时间嵌入,保留时间局部细节。
股间信息通过多头注意力机制进行跨时间步聚合,实现了瞬时与跨时间股票相关性的捕获,提升对股票间复杂动态关系的建模能力。
时间聚合将多个时间步的股间嵌入融合为综合股票表示,用于最终回归预测。
实验覆盖CSI300和CSI800,MASTER在排名指标(IC、RankIC等)和投资组合指标(超额年化收益AR、信息比率IR)上均优于包括XGBoost、LSTM、GAT及现有动态相关模型DTML,平均提升13%和47%。
| 数据集 | 模型 | IC | ICIR | RankIC | RankICIR | AR | IR |
|---|---|---|---|---|---|---|---|
| CSI300 | DTML | 0.049±0.006 | 0.33±0.04 | 0.052±0.005 | 0.33±0.04 | 0.21±0.03 | 1.7±0.3 |
| CSI300 | MASTER | 0.064±0.006 | 0.42±0.04 | 0.076±0.005 | 0.49±0.04 | 0.27±0.05 | 2.4±0.4 |
| CSI800 | DTML | 0.039±0.004 | 0.29±0.03 | 0.053±0.008 | 0.37±0.06 | 0.16±0.03 | 1.3±0.2 |
| CSI800 | MASTER | 0.052±0.006 | 0.40±0.06 | 0.066±0.007 | 0.48±0.06 | 0.28±0.02 | 2.3±0.3 |
架构消融实验验证交替的时序内聚合与股间聚合的有效性,优于直接大规模注意力及基于聚类的局部注意力策略。
超参数调节显示市场引导门控中的温度参数β对特征选择力度影响显著,对于难度较大数据集应采用较小β以加强门控。
注意力可视化结果揭示,股票相关性呈瞬时性、非时序对齐和稀疏分布,且股间相关性具有方向性和稳定的时间滑动特征,体现了模型捕获复杂动态股票关系的能力。
MASTER降低了直接计算M×τ注意力的复杂度,具有更高的计算效率,适合大规模股票短期价格预测任务。
报告标题: MASTER: Market-Guided Stock Transformer for Stock Price Forecasting
作者及单位: Tong Li, Zhaoyang Liu, Yanyan Shen, Xue Wang, Haokun Chen, Sen Huang,分别来自上海交通大学和阿里巴巴集团
发表时间与场合: 论文最近发表于2024年AAA国际会议(AAAI-24)
主题: 针对股票价格预测任务,设计一种基于Transformer的新颖深度学习架构,侧重挖掘复杂且动态的股票间“时变”和“跨时间”的相关性,并利用市场信息指导特征自动选择。
核心论点与贡献总结:
该论文提出了MASTER——一种市场引导的股票价格预测Transformer模型,旨在解决传统模型在捕捉股票间关联(尤其是“时刻性”与“跨时间”相关性)不足和忽视市场环境动态变化的局限。论文强调:
整体,论文提出了一套结构合理、计算高效,并能反映实际市场行为的股票价格预测方案。,1]
报告指出两个主限制:
(1) 股票相关性的瞬时性和错位时性(如同产业链上下游股票对原料短缺的反应时间存在差异);
(2) 动态特征的有效性受市场环境影响,无法由静态模型自动调整。
引言部分提出用一种新型Transformer结构解决上述难题,即MASTER。
将每只股票的特征序列 xu,t 收集,预测未来归一化的回报率 ru (5日预测),对比绝对收盘价,回报率用于跨股票比较和排序。此任务是联合预测全市场多只股票的未来表现。
包括五步:
市场引导门控(Market-Guided Gating): 基于当前及历史市场指数价格和交易量,构建市场状态向量 mτ,通过门控机制动态调整所有股票特征的权重,自动进行特征选择。
内部股票聚合(Intra-Stock Aggregation): 在单只股票的特征序列中,每时刻特征向量从整个时间窗口多头注意力中聚合信息,形成保持本地时间细节的局部嵌入 hu,t。
股票间聚合(Inter-Stock Aggregation): 在每个时间步,同步计算所有股票的局部嵌入间的多头注意力,挖掘并聚合瞬时的股票关系,得到时间嵌入 zu,t,同时保持股票个体信息。
时间聚合(Temporal Aggregation): 利用时间注意力将一只股票所有时间的嵌入压缩为一个综合嵌入 eu,权重由最新时间嵌入作为查询计算。
预测(Prediction): 用线性层对综合嵌入进行回归,输出未来回报率预测值。
整体复杂度约为O(N2M2τD2),比原始方法减少约τ倍计算,提高效率且可捕获跨时间关联。,2,3]
使用PyTorch,基于Qlib量化平台,超参数调优基于验证集IC指标;所有模型重复训练5次,报告平均结果。
论文并未针对于某一具体股票或公司在金融意义上进行估值,而是侧重从机器学习模型角度探讨预测模型的性能表现和模型复杂度、效率。计算复杂度分析表明,论文设计的交替聚合方案显著提升了在海量股票和时间窗口下,捕捉动态相关性和计算效率的平衡,这可视为模型设计的“效率估值”。
尽管论文中未直接罗列风险因素,其隐含风险点值得关注:
论文通过门控和动态相关学习部分缓解上述风险,但仍需在实际应用中密切关注。
整体,论文提出方法在理论框架和实验结果上表现优异,然而面对实际复杂市场环境的长期稳定性和适用性仍需进一步检验。
该报告介绍了MASTER,一种结合市场环境引导的股票价格预测Transformer模型。通过创新的门控机制实现对特征的动态调整,利用交替的时序内和时序间股票聚合模块突破了传统模型对股票相关性建模的时序局限,实现了对“时刻性”和“跨时间”股票动态相关性的高效学习。实验在中国市场大规模数据集上展现出领先的预测指标和投资收益性能,提升显著且稳定。通过对注意力权重的可视化,进一步揭示了模型所捕获的非对称、动态的真实关联机制,显示对金融市场微观结构的深入理解能力。
MASTER架构不仅模型设计充分考虑了股票市场的复杂时变相关特性,也配合了市场整体状态,引导特征动态使用,带来更强的适应性和预测精准度。综合多角度分析,从理论方法、计算复杂度、实验评测到可解释性展示,报告达成了全方位且具深度的技术突破。
最终,作者明确推荐MASTER为当前股票价格预测的有效技术方案,并指出未来方向包括提升相关性质量挖掘及市场信息更多维度的利用。
现有方法先执行时间序列编码再做股票间相关图计算,难捕捉跨时间动态相关。
市场引导门控、内部聚合、股票间聚合、时间聚合及预测五阶段,有效捕获复杂股票相关。
多头数设置对模型性能有一定影响,但整体表现稳定,参数选择灵活。
门控温度β调节特征选择强度,CSI300适合较宽松β,CSI800需求更严格特征控制。
注意力散布稀疏且无时间连贯条纹,证实股票间相关的瞬时多样特性。
相关矩阵非沿对角对称,显示跨时间错位和相关非对称性质。
以上,是对MASTER论文的详尽层次剖析,聚焦其方法创新、技术细节、实验验证及金融市场的现实结合,符合对金融研究报告的全面、深度、专业解读要求。
MASTER Market-Guided Stock Transformer for Stock Price Forecasting.pdf