arXiv 机器学习· Hanwen Zhang, Enyi Jiang, Ruike Zhu, Qinan Yu, Sanmi Koyejo·· 4 小时前AI 评分43
REACT：思维链轨迹的表征早期分析与控制
REACT: Representational Early Analysis and Control of Chain-of-Thought Trajectories
AI 导读
条件激活干预方法 REACT 通过在权重冻结下单次编辑早期思维链（CoT）隐藏状态来控制推理模型安全，其最强增益集中在前 2 至 3 个 token 窗口。在 DeepSeek-R1-Distill-Llama-8B 上，REACT 将 StrongREJECT-273 的完全安全输出率从 29.06% 提升至 82.05%，同时保持良性拒绝与实用性接近基线。
来源：arXiv 机器学习 · arxiv.org