arXiv 自然语言处理· Masaaki Nakatsu (AO, Inc. / OrbLabs AG), Reno Wang (AO, Inc.)·· 6 小时前AI 评分44
逻辑与人设解耦：端侧 LLM 智能体对上下文污染的结构免疫
Decoupling Logic from Persona: Structural Immunity of Edge LLM Agents to Context Pollution
AI 导读
研究提出解耦架构 AO-DA，在单 INT4 基础模型上通过热插拔 LoRA 将逻辑推理与人设表达分流为双路径，解决端侧 LLM 智能体的上下文污染问题。在 Apple M2 上测试 Llama-3.1-8B-Instruct 与 Gemma-3-4B-it，解耦逻辑路径提示词仅 180 或 167 tokens 且输出完全一致。该方案支持 1.7 ms 热插拔人设，相关代码与权重已开源。
来源：arXiv 自然语言处理 · arxiv.org