arXiv 自然语言处理· Giovana Kerche Bon\'as, Thales Sales Almeida, Marcelo da Silva Reis, Rodrigo Nogueira, Marcos Meideiros Raimundo·· 10 小时前AI 评分39
PRISM：工具调用大语言模型中激活干预的迁移与局限
PRISM: Transfer and Limits of Activation Interventions in Tool-Calling Language Models
AI 导读
研究人员提出 PRISM 框架，用于评估工具调用大语言模型在不同精度、语言和参数规模下的激活干预迁移能力。实验显示，利用量化 NF4 副本的行为标签可实现稳定的干预估计，基于五种语言监督的干预方向迁移至未见过的阿拉伯语后，使 Llama-3.1-8B 的不安全违规行为减少 21.95 个百分点。该安全干预还能通过良性激活映射成功迁移至最大 70B 参数的模型。
来源：arXiv 自然语言处理 · arxiv.org