跳到正文
原文
Apple Machine Learning Research·· 13 天前AI 评分39

动态缩放激活引导(DSAS)框架

Dynamically Scaled Activation Steering

AI 导读

研究人员提出动态缩放激活引导(DSAS)框架,将“何时干预”与“如何干预”解耦,在生成过程中根据上下文自适应调节各层与输入的引导强度。DSAS 可与现有引导方法端到端联合优化,在显著改善大语言模型毒性消除与效用保留权衡的同时,仅引入极小计算开销。该方法还成功应用于文生图扩散模型的概念调节,相关代码将在 GitHub 开源。

来源:Apple Machine Learning Research · machinelearning.apple.com