arXiv 自然语言处理· Ran Li, Lei Chen·· 3 小时前AI 评分42
Prefill-Only 决策模型中的读出稳定性：零标签预测与推理时计算分配
Readout Stability in Prefill-Only Decision Models:Zero-Label Prediction and Inference-Time Compute Allocation
AI 导读
研究表明 Prefill-Only 决策模型具备读出稳定性，在仅改变候选菜单且输入固定时，无需真实标签或二次前向传播即可由首轮缓存分布直接预测干预后的准确率。跨 7 个模型族与 10 个数据集的测试显示该预测误差在 4.2 点以内。
来源：arXiv 自然语言处理 · arxiv.org