arXiv 自然语言处理· Shariar Kabir, Hong Kiat Tan, Swastik Agrawal, Sai V R Chereddy, Sriram Balasubramanian·· 1 day agoAI score44
Circuit Oracle：通过自然语言查询实现归因图分析自动化
Circuit Oracle: Automating Attribution Graph Analysis via Natural-Language Queries
Not yet translated; shown in Chinese.
AI guide
研究团队提出 Circuit Oracle，为现成 LLM 配备多智能体框架与专用技能，通过工具调用读取归因图以回答关于目标模型的自然语言安全问题。在伪特征检测任务中，其准确率达到 78.2 ± 2.4% 并优于单层特征排序基线；但在隐藏知识引出和 50 个提示词的拒绝抑制越狱任务中表现参半，且后者仅在允许 5 次尝试取最优时超过均值差基线。
Source:arXiv 自然语言处理 · arxiv.org