知识追踪模型的可解释性与稳定性验证研究
该研究针对知识追踪（KT）模型黑盒预测导致难以有效指导教学实践的问题，提出了一套综合验证协议。该协议系统评估了模型的预测竞争力、解释稳定性以及基于重新训练的忠实度。研究基于ASSISTments 2009和2012数据集，围绕五个教学主题构建了13个行为特征，并修正重建了原始数据集中存在技能构建重复记录的问题，为教育AI模型的可解释性评估提供了更可靠的基准。
DC AI 热点
精选
当前热点完整榜单 →
1接连出现越狱与攻击行为，OpenAI 暂停工具调用类模型训练与评估79 热度 ⌁2OpenAI与Anthropic正调查数万起前沿AI模型安全异常事件77 热度 ⌁3AI幻觉虚构涉华核部件情报险性引发美军行动74 热度 ⌁4后装智驾涉5起事故致3死，Comma.ai遭美国NHTSA联邦调查74 热度 ⌁5Anthropic Claude 攻克杨-米尔斯理论九圈散射振幅难题，刷新物理学计算纪录72 热度 ⌁9月25日2026-09-25
SMILESGNN：基于SMILES与图跨注意力融合的可解释临床药物毒性预测模型
针对药物研发中毒性预测面临的样本严重失衡、骨架泛化差以及缺乏临床可解释性等难题，研究人员提出了多模态网络架构 SMILESGNN。该模型通过交叉注意力机制，融合了 SMILES Transformer 编码器与 GATv2 图编码器，弥补了单一序列模型无法提供图归因解释的缺陷。此外，研究还推出了预训练变体 SMILESGNN-PT，有效提升了分子表征的泛化性能与临床解释能力。
混合推理模型中的“思考泄漏”：NoThink后训练机制因果审计
针对混合推理模型在无显式思考（NoThink）模式下的后训练机制，本研究探讨了其性能提升是否源于基座模型“思考（Think）”模式能力的潜在迁移。作者将这种“思考泄漏”纳入因果中介分析框架，并基于激活方向的双向干预进行审计。在3个模型、3种后训练方法及竞赛数学基准上的实验表明，“思考泄漏”在行为和表征层面均真实存在、具备因果性且影响显著，揭示了快推理模式下的内在表征机制。
面向机制可解释性的流递归模型（SRM）
该研究针对机制可解释性技术难以随大语言模型规模与深度扩展的问题，提出了一种新型架构——流递归模型（SRM）。SRM 是对分层推理模型（HRM）的改进，通过将计算过程组织为多个相互交互的潜在流，在保持模型可扩展性的同时暴露其内部计算结构。该工作旨在通过设计天然具备可解释性结构的小型模型，为验证和理解模型内部行为提供新的探索路径。
9月24日2026-09-24
Signal2Symbol：用于可解释生理时间序列异常检测的神经符号时序推理框架
针对心电图（ECG）和脑电图（EEG）等生理时间序列在复杂时序结构与高决策透明度方面的需求，现有深度学习模型往往缺乏对异常原因及局部关联的可解释性。研究团队提出了一种名为 Signal2Symbol 的神经符号框架，旨在实现可解释的生物信号异常检测。该方法首先将连续的生理信号转化为符号序列，进而结合神经符号时序推理，提升检测决策的透明度与规律挖掘能力。
线性表征假说需引入群作用：基于表征等价性的理论审视
该研究针对可解释性与表征学习中的“线性表征假说”提出了理论层面的反思。作者指出，要让关于表征的结论跨越具体训练模型实现泛化，必须明确两个表征何时被视为等价。由于现有讨论普遍缺乏对等价性的明确定义，导致看似研究同一表征的指标、探测器和干预手段实际上可能对应着不同的假设。研究认为，线性表征假说并非单一假设，而是由不同表征等价性所区分的一个假说家族。
CELLAUDIT：用于审查智能体发现细胞模型中输入有效性的审计框架
针对 AI 虚拟细胞模型在预测生物干预响应时可能并未真正利用输入信息的“预测-主张差距”，研究团队提出了审计框架 CELLAUDIT。在大模型智能体自动发现和迭代预测模型的场景下，CELLAUDIT 从源码计算路径、拟合依赖性以及实际预测贡献三个维度切入，系统性验证模型对输入扰动信息的使用主张是否属实，以确保智能体生成的科学预测模型具备真正的因果有效性和可靠性。