arXiv 机器学习· Anant Bhide, Akarsh Gupta, Edmond Cunningham, Justin Domke·· 18 時間前AI スコア32
Large Language Bayes 在 M-Open 设定下的 Stacking 加权方法
Stacking-Based Weighting for Large Language Bayes in M-Open Settings
未翻訳のため中国語で表示しています。
AI ガイド
研究针对 Large Language Bayes(LLB)似然聚合在模型误设时容易过度集中于单一模型的问题,提出一种基于 stacking 的加权聚合方法。该方法通过推导变分下界构建出基于 ELBO 的 stacking 目标,直接优化预测性能以分配模型权重。实验表明,该方法在真实概率推理任务中取得与贝叶斯模型平均相当的预测表现,并有效分散了模型权重。
出典:arXiv 机器学习 · arxiv.org