arXiv 人工智能· Chuming Wei, Churui Yang, Zihan Zhang, Ruien Li, Wusheng Zhang, Yan Zhang, Guangwen Yang·· 6 小时前AI 评分33
ADTGuard：面向大语言模型流式推理的自适应深度-时间安全护栏
ADTGuard: Adaptive Depth-Time Safeguard for Streaming Inference in Large Language Models
AI 导读
面向大语言模型流式推理，ADTGuard 实现了在每个 token 释放前进行跨深度与时间的自适应安全检测。该系统通过 CDR 动态路由观察层，结合 DTSD 累积风险证据，并利用 RTR 从响应级标签逐步构建 token 级训练目标。实验表明，ADTGuard 仅需 16M 可训练参数即达到或超越现有 SOTA 护栏性能，且具备低逐 token 延迟。
来源：arXiv 人工智能 · arxiv.org