arXiv 自然语言处理· Chuancheng Shi, Shangze Li, Wenhua Wu, Hengzhi Chen, Fei Shen, Li Zhuo, Zhiyong Wang, Tat-Seng Chua·· 15 小时前AI 评分40
TraceRouter++：通过最优传输实现因果语义路由重对齐
TraceRouter++: Causal Semantic Routing Realignment via Optimal Transport
AI 导读
针对大基础模型易受越狱攻击的问题，研究人员提出路由级安全干预框架 TraceRouter++，通过追踪有害输入激活的因果路由路径来重对齐不安全激活状态。该框架结合稀疏自编码器（SAE）与受限最优传输（OT）算法，在因果识别的路由子空间内软重定向恶意语义流。在 LLM、多模态大语言模型（MLLM）和扩散模型（DM）上的实验表明，其对抗鲁棒性超越基线且兼顾了通用效用。
来源：arXiv 自然语言处理 · arxiv.org