研究团队提出归因图自动化分析工具Circuit Oracle
Start here
2026年11月3日，研究团队在arXiv发布成果，提出归因图自动化分析工具Circuit Oracle。该工具为现成大语言模型配备多智能体框架与专用技能，使其能够通过工具调用读取归因图，进而回答关于目标模型的自然语言安全问题。评估结果显示，Circuit Oracle在伪特征检测任务中的准确率达到78.2 ± 2.4%，优于单层特征排序基线；但在隐藏知识引出以及包含50个提示词的拒绝抑制越狱任务中表现参半，其中越狱任务仅在允许进行5次尝试并取最优结果时才超过了均值差基线。
AI-generated from reports · Updated 1 day ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理Circuit Oracle：通过自然语言查询实现归因图分析自动化
研究团队提出 Circuit Oracle，为现成 LLM 配备多智能体框架与专用技能，通过工具调用读取归因图以回答关于目标模型的自然语言安全问题。在伪特征检测任务中，其准确率达到 78.2 ± 2.4% 并优于单层特征排序基线；但在隐藏知识引出和 50 个提示词的拒绝抑制越狱任务中表现参半，且后者仅在允许 5 次尝试取最优时超过均值差基线。
Story heat trend
Current heat 4·Comparable peak 9（Nov 3 18:00）·Comparable change, last 24 hours-49%
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.