研究揭示LLM修改痕迹致隐私泄露风险并提防御方案

最新研究表明，大语言模型在起草交付内容时，常因在修改说明中复述已删除项目（即修改痕迹）而引发非预期的敏感信息泄露。真实语料分析显示，有8.8%的修改请求留下了此类痕迹；针对6个模型的基准测试表明，约13%的交付物可被第三方直接恢复出被撤回的内容。针对该安全风险，研究团队提出了包含100项任务的RevLeakBench基准，并设计了一种输出端过滤器，能够在极少损失必要内容的前提下显著降低被撤回内容的恢复率。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。