研究通过激活注入测试大模型内省能力

研究人员正通过向大语言模型直接注入概念激活模式，测试其是否具备感知与识别自身内部状态的内省能力。Anthropic 等机构的研究显示，模型在 20% 的测试中能准确报告被注入的异常，且控制组保持零假阳性，证实其具备稳健的异常检测能力。然而，后续研究进一步指出，模型对被注入概念的具体描述，可能仅是由激活导向直接诱发的文本输出结果。因此，该检测能力是否属于真正的内省，目前学界仍存在理论争议。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。