arXiv 自然语言处理· Yang Liu, Zhiqiang Yuan, Shu-Dong Huang, Jiancheng Lv, Liwei Yang, Qiwei Yan, Kailin Lv, Jinchao Zhang·2026-10-23 12:00· 8 小时前AI 评分35

ULME：通过预测耦合实现文本嵌入与语言建模相互增强的统一框架

ULME: Predictive Coupling for Mutually Reinforcing Embedding and Language Modeling

AI 导读

研究者提出后训练框架 ULME，通过预测耦合在因果因果解码器 LLM 上统一文本嵌入与语言建模能力。该方法在查询与答案间插入可学习槽位，并以对比损失、语言建模损失和截断梯度预测损失联合训练共享骨干。