arXiv 自然语言处理· Soumya Sharma, Ayana Hussain, Heber Hwang Arcolezi, Ulrich A\"ivodji, Spandana Gella, Adriana Romero-Soriano, Golnoosh Farnadi·· 10 小时前AI 评分59
arXiv 论文评估智能体对话隐私泄露：强能力与思考型模型泄露更显著
Loose Lips: Understanding Privacy Leakage in Agentic Dialogue
AI 导读
研究人员构建了包含 4,410 个双智能体对话样本的评测基准 CIMEMORIES DIALOGUE，发现智能体的任务能力与隐私泄露存在结构性耦合，能力越强越容易泄露信息。在对 Qwen3 与 Llama 3.1 家族 7 款开源权重模型的测试中，思考型模型因思维链扩展了推理表面而比非思考型泄露更多，且对话轮数从 1 轮增至 6 轮时泄露上升高达 3 倍。
来源：arXiv 自然语言处理 · arxiv.org