跳到正文
原文
arXiv 机器学习· Joshua Maccoby, Wendy Hui Wang·· 2 小时前AI 评分44

REDaCT:面向大型推理模型的无崩溃机器遗忘框架

REDaCT: Collapse-Free Unlearning in Large Reasoning Models

AI 导读

研究者提出面向大型推理模型(LRMs)的推理阶段机器遗忘框架 REDaCT,旨在清除指定信息的同时避免思维链(CoT)推理崩溃。该框架结合了识别推理轨迹中泄露句子的二元检测器与纠正性嵌入优化模块,可在推理期检测到首次泄露时引导后续安全生成。实验表明 REDaCT 完全避免了推理崩溃,在实现完全答案遗忘与近乎完全 CoT 遗忘的同时保留了推理能力;代码已开源。

来源:arXiv 机器学习 · arxiv.org