热点事件持续更新
上海交大张拳石团队提出等效交互理论推动AI机理审计
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年11月5日,上海交通大学张拳石教授在专访中指出,思维链并非模型真实推理逻辑的忠实反映,存在欺骗风险,AI安全亟需从仅检查答案转向审计内部生成机制。针对模型作弊与神经元多义性问题,其团队提出了等效交互理论,利用稀疏符号逻辑拟合指数级遮挡状态下的模型输出,以建立具备数学边界的严格解释。研究还发现不同开源大模型共享的核心交互贡献了主要效应,未来有望以此推动模型在机理层面交换认知并降低训练成本。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 18:10
张拳石团队针对思维链欺骗等风险提出等效交互理论,倡导开展机理审计。报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- AITNT · AI头条专访上海交大张拳石:思维链存在欺骗风险,AI安全亟需机理层面的“思想审计”
上海交通大学张拳石教授指出思维链并非模型真实推理逻辑的忠实反映,AI安全必须从仅检查答案转向审计内部生成机制。针对模型作弊与神经元多义性问题,其团队提出等效交互理论,利用稀疏符号逻辑拟合指数级遮挡状态下的模型输出,以建立具备数学边界的严格解释。研究还发现不同开源大模型共享的核心交互贡献了主要效应,未来有望以此推动模型在机理层面交换认知并降低训练成本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。