arXiv 自然语言处理· Ran Li, Shimin Di, Zeyu Ren, Ling Yue, Jiachuan Wang, Lei Chen·· 1 天前AI 评分45
Latent Harness:将智能体行为编译为块后激活偏移
Latent Harness: Compiling Agent Behaviors into Post-Block Activation Shifts
AI 导读
研究人员提出 Latent Harness,将外部智能体行为编译为冻结主干网络各解码器块输出处的 rank-8 激活偏移,仅占 0.03%-0.05% 参数量且推理时不增加 token。该方法在 10 个预注册设置中的 8 个恢复了源 harness 增益,并支持零样本跨任务迁移与偏移空间组合。在 3 个智能体基准上其表现优于同容量 LoRA,后者需 11.1 倍参数才可达到相同水平。
来源:arXiv 自然语言处理 · arxiv.org