热点事件持续更新
研究揭示连续微调中大模型安全对齐保留机制
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月30日，arXiv机器学习领域发表针对Mistral-7B与Llama-3-8B连续微调安全性的研究成果。研究表明，logit蒸馏相比监督重放能以更小的过度拒绝代价有效防止安全退化。实验数据显示，在Mistral模型上，监督重放虽使HarmBench攻击成功率降低51.1点，但导致过度拒绝激增53.4点；而logit蒸馏仅使过度拒绝增加5.1点。此外，将监督重放与logit蒸馏二者结合，可在不影响下游任务的前提下进一步缓解过度拒绝问题。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 12:00
研究显示logit蒸馏相比监督重放能以更低过度拒绝代价防范连续微调安全退化，结合二者效果更佳。报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- arXiv 机器学习大模型连续微调中的安全性保持：重放策略的析因与几何分析
针对 Mistral-7B 和 Llama-3-8B 连续微调的研究表明，logit 蒸馏相比监督重放能以更小的过度拒绝代价有效防止安全退化。在 Mistral 上，监督重放使 HarmBench 攻击成功率降低 51.1 点但过度拒绝激增 53.4 点，而 logit 蒸馏仅增加 5.1 点过度拒绝，二者结合更可在不影响下游任务的同时缓解过度拒绝。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。