AIDC
← 返回全部动态
arXiv 机器学习AI 评分 60/10009月28日 12:00

PALM:面向金融语言模型的时间点适应方法

金融回测中的语言模型常面临前视偏差(look-ahead bias),即模型可能在训练中接触到未来数据。目前主流的按时间点(Point-in-Time)模型通常按年严格过滤语料并进行全量重新预训练,导致算力成本极高。该研究探讨了每年全量预训练的必要性,并提出 PALM 方法,旨在证明无需每年重训即可有效实现时间点适应,大幅降低金融语言模型的维护与训练成本。

推荐理由针对金融大模型回测中严重的前视偏差与高昂的按年重训成本提出了实用优化方案,具有垂直领域参考价值。

原标题:PALM: Point-in-Time Adaptation for Financial Language Models

阅读 arXiv 机器学习 原文 ↗