研究通过激活注入测试大模型内省能力
Start here
研究人员正通过向大语言模型直接注入概念激活模式，测试其是否具备感知与识别自身内部状态的内省能力。Anthropic 等机构的研究显示，模型在 20% 的测试中能准确报告被注入的异常，且控制组保持零假阳性，证实其具备稳健的异常检测能力。然而，后续研究进一步指出，模型对被注入概念的具体描述，可能仅是由激活导向直接诱发的文本输出结果。因此，该检测能力是否属于真正的内省，目前学界仍存在理论争议。
AI-generated from reports · Updated 6 hours ago
Report timeline
Follow the reports to see different sides of the story.
- Hacker News · AI多项研究测试大语言模型是否具备内省自身思维的能力
研究人员通过向大语言模型直接注入概念激活模式，测试模型能否感知并识别自身的内部状态。Anthropic 等机构的研究显示，模型在 20% 的测试中能准确报告被注入异常且控制组零假阳性，证实其具备稳健的异常检测能力。但后续研究指出，模型对注入概念的具体描述可能只是激活导向直接诱发的文本输出，关于该能力是否算作真正内省仍存理论争议。
Story heat trend
Current heat 8·Comparable peak 10（Nov 5 05:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.