Apple Machine Learning Research·· 22 小时前AI 评分43
LLM 条件控制中的有效性与流畅度权衡:系统研究
On the Effectiveness-Fluency Trade-Off in LLM Conditioning: A Systematic Study
AI 导读
一项系统研究评估了 LLM 输出条件控制中的权衡,发现激活干预(activation steering)等高效方法往往以大幅牺牲生成流畅度为代价。研究表明,激活干预在指令微调模型上的效果远弱于基座模型,而简单提示词和有监督微调更适合概念注入而非概念移除。此外,低成本的文本计算指标与高成本的 LLM-as-judge 评分高度相关。
来源:Apple Machine Learning Research · machinelearning.apple.com