大语言模型交付物修改痕迹引发的非预期隐私泄露研究

研究表明大语言模型在起草交付内容时，常因在修改说明中复述已删除项目（即修改痕迹）而引发非预期的敏感信息泄露。真实语料分析显示有 8.8% 的修改请求留下了此类痕迹；针对 6 个模型的基准测试表明，约 13% 的交付物可被第三方直接恢复被撤回的内容。研究提出了包含 100 项任务的 RevLeakBench 基准，并设计了一种可在极少损失必要内容前提下显著降低恢复率的输出端过滤器。