arXiv 自然语言处理· Mingyu Zhao, Shuhang Lin, Ligong Han, Xiaojing Yu, Zhenting Wang, Yifei Pang, Yang Zhou, Dimitris N. Metaxas·· 5 小时前AI 评分38
元认知解码：扩散语言模型智能体的高效推理
Metacognitive Decoding: Efficient Inference for Diffusion Language Agents
AI 导读
研究人员提出面向扩散语言模型智能体的元认知解码方法，通过轻量级元认知控制器指导生成过程，动态决定何时确定 token 及生成长度以削减计算开销。在 5 个 benchmark 上的实验表明，该方法在保持任务准确率的同时，相比最高效的 baseline 平均降低了 20.6% 的推理 FLOPs。
来源：arXiv 自然语言处理 · arxiv.org