arXiv 自然语言处理· Xizhe Zhang·· 18 小时前AI 评分45
大语言模型的稀疏内部控制
Sparse Internal Control of Language Models
AI 导读
研究提出大语言模型稀疏内部控制（sparse internal control）框架，通过在推理阶段干预少量内部节点来定向引导模型行为。该框架引入 Driver-OMP 与 Coverage-Driver 两种节点选择算法，并建立涵盖可达性、剂量响应等指标的六轴评估协议。在 MMLU 问答、间接宾语识别、情感和拒绝引导等任务上的实验验证了该方案的可行性。
来源：arXiv 自然语言处理 · arxiv.org