Apple Machine Learning Research·· 13 天前AI 评分39
动态缩放激活引导(DSAS)框架
Dynamically Scaled Activation Steering
AI 导读
研究人员提出动态缩放激活引导(DSAS)框架,将“何时干预”与“如何干预”解耦,在生成过程中根据上下文自适应调节各层与输入的引导强度。DSAS 可与现有引导方法端到端联合优化,在显著改善大语言模型毒性消除与效用保留权衡的同时,仅引入极小计算开销。该方法还成功应用于文生图扩散模型的概念调节,相关代码将在 GitHub 开源。
来源:Apple Machine Learning Research · machinelearning.apple.com