上海交大张拳石团队提出等效交互理论推动AI机理审计

1. 18:10
   AITNT · AI头条

   专访上海交大张拳石：思维链存在欺骗风险，AI安全亟需机理层面的“思想审计”

   上海交通大学张拳石教授指出思维链并非模型真实推理逻辑的忠实反映，AI安全必须从仅检查答案转向审计内部生成机制。针对模型作弊与神经元多义性问题，其团队提出等效交互理论，利用稀疏符号逻辑拟合指数级遮挡状态下的模型输出，以建立具备数学边界的严格解释。研究还发现不同开源大模型共享的核心交互贡献了主要效应，未来有望以此推动模型在机理层面交换认知并降低训练成本。

Current heat 9·Comparable peak 10（Nov 5 19:00）·Comparable change, last 24 hours–

Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.