arXiv 自然语言处理· Mahmoud Alyosify, Mirna Imbabi, Eman Elkhamisi, Rahatara Ferdousi·· 16 時間前AI スコア39
MinimalLM：面向大语言模型的免训练冗长度控制框架
Say Less, Mean Better: Training-Free Verbosity Control for Language Models
未翻訳のため中国語で表示しています。
AI ガイド
研究人员提出免训练框架 MinimalLM，结合 stop-token 动态调整与结构完整性约束，实现大语言模型输出长度的可靠控制。在 3 款开源 LLM 上的评测显示，该方法使生成 token 减少 47.6%，单个回复加速 19-68%，并消除了结构性截断。其平均质量得分达 8.04/10，接近原始模型的 8.42/10，显著优于同长度截断的 6.46/10。
出典：arXiv 自然语言处理 · arxiv.org