研究团队提出CogRSI框架,审计发现自主演化推理规则存逻辑漏洞
Start here
2026年11月3日,研究团队在arXiv发表论文,提出认知推理策略演化与审计框架CogRSI。该框架通过自我改进循环让语言模型自主编写心智推理原则,在800个未见过的BigToM测试对上准确率超越了专家编写的原则。然而,研究人员将生成的规则转换为代码进行审计后发现,大多数策略在特定情境下存在逻辑错误(例如判定室内睡着的人知晓所发生事件),且仅靠准确率指标无法识别此类漏洞。目前,该研究的相关代码与数据已对外开源。
AI-generated from reports · Updated 9 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理CogRSI:认知推理策略的演化与审计
研究提出 CogRSI 框架,通过自我改进循环让语言模型自主编写心智推理原则,在 800 个未见过的 BigToM 测试对上准确率超越专家编写的原则。但将生成规则转换为代码审计后发现,大多数策略在特定情境下存在逻辑错误(如判定室内睡着的人知晓所发生事件),且仅靠准确率指标无法识别此类漏洞;相关代码与数据已开源。
Story heat trend
Current heat 7·Comparable peak 9(Nov 3 18:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.