arXiv 机器学习· Varun Gupta, Vijay Kamble·· 5 小时前AI 评分40
如何组织大语言模型推理以基于行为数据预测群体聚合结果
Organizing LLM Inference for Aggregate Predictions from Behavioral Data
AI 导读
研究人员探讨了利用大语言模型（LLM）基于电商浏览行为预测商品转化率的推理组织策略，并在 5 个大语言模型和 2 个数据集上完成了评估。当在单个 prompt 中联合对比评估多款商品时，预先汇总浏览会话的预测表现反超单会话逐一预测，在 15 个设置中的 12 个里取得最高的斯皮尔曼相关系数。对比汇总不仅推理成本远低于逐会话方法，且预测相关性达到了数千监督样本训练的最佳基准的 66-89%。
来源：arXiv 机器学习 · arxiv.org