本论文聚焦于利用上下文感知语言模型改善对金融新闻市场影响的预测。通过引入历史新闻文本的高效摘要表示方法(Prefix Summary Context,PSC),该方法结合大模型处理主文、小模型编码历史上下文,显著提升了模型预测股票价格变动的性能和投资模拟中的经济效益。实验涵盖了长短期预测、多种上下文检索策略及多模型对比,显示历史上下文和上下文化机制均带来稳健且显著的性能提升,验证了利用序列新闻的策略在解释市场信息扩散中的价值
| Staleness Level | Single Article AUC | PSC Contextualized AUC | 增益(%) |
|---|---|---|---|
| High (3) | 56.39 | 59.72 | 3.33 |
| Medium (2) | 56.51 | 59.37 | 2.86 |
| Low (1) | 56.94 | 58.31 | 1.37 |
内容总结: 指出金融新闻对信息扩散和股价驱动至关重要,但单篇新闻往往信息不完整,需要结合历史上下文来准确理解。传统方法难以高效整合大量上下文。本文提出一个高效方法使用小LM压缩历史内容、与大LM语义对齐并结合主新闻输入。定量质性验证表明,历史上下文提升模型预测能力,带来仿真投资显著获益。
创新点: 历史上下文通过摘要嵌入结合,跨模型语义空间对齐,兼顾效率与性能。
本研究不涉及传统金融估值模型或市盈率等财务估值分析,而是通过机器学习模型性能(AUC指标)和仿真投资绩效来间接体现“估值”层面的模型有效性。投资组合的年化收益率和夏普比率成为衡量模型价值的关键指标,体现从技术效果到真实市场应用的转化。
报告架构设计合理,实验严谨,数据量大,结果稳定。但仍有以下细节需关注:
模型规模限制: 整体实验基于7B参数LLM,未覆盖更大规模模型,未来结果可能存在差异。
上下文选择方法: 即使采用领域适配的语义检索,实际应用中不同公司新闻质量及报道频次差异较大,对上下文相关度影响未详尽分析。
任务难度及AUC提升幅度: AUC提升最大约3个百分点,虽统计和经济意义显著,预测的绝对准确率仍有提升空间,反映任务本身难度高,市场噪声大。
检索与摘要策略依赖训练数据: FinSim基于训练集微调,可能带有一定过拟合风险,泛化能力有待更广泛验证。
交易仿真简化假设: 使用保守交易成本,但真实市场存在流动性、滑点、事件驱动异常波动等复杂因素未完全模拟。
这些视角提示后续研究需关注更大模型适应性、多样化检索策略、实际交易环境仿真及跨市场验证。
本论文深入研究了金融新闻上下文信息的动态融合对股票价格走势预测的重要贡献,提出了一种创新的PS C架构,通过:
成功在300K+金融新闻样本的实证测试中,实现7天和30天股票涨跌方向二分类任务的AUC显著提升,优于多种先进基线和主流长文建模方法。上下文长度扩展到15篇历史文时性能趋近饱和,且结合基于金融领域微调的语义检索策略,进一步提升效果。
解释性分析阐明,历史上下文尤其在新闻内容较陈旧时能有效帮助模型分辨信息新颖度,校正预测偏差。此次成果的实际应用价值通过投资组合仿真得到充分验证,表现出超过50%的相对投资回报率提升和更优的夏普比率。
该研究为金融文本预测领域提供了清晰且高效解决方案,并推动了基于大语言模型的市场行为预测的前沿进展。未来研究可延伸多市场、多语言环境,完善实际交易策略实现,进一步增强模型的应用广泛性和实用价值。
该研究全面且系统地探索了金融新闻历史上下文在利用语言模型预测市场影响中的核心作用,全流程从数据收集、模型设计、基线验证、细节消融到金融实证均交代充分。提出的PSC方法兼备计算效率与预测精度,是当前相关领域的重要进步。报告中的图表清晰辅助论证,实验设计严谨,实证化验证投资意义,具备较强的学术与行业影响力。
2509.12519.pdf