跳到正文
热点事件持续更新

研究者提出MoWE架构提升模型原生坐标可解释性

1 篇报道1 个报道来源14 小时前更新

先了解这件事

AI 综述

2026年11月4日,arXiv发表的研究提出了面向可解释原生坐标的稀疏路由架构Mixture of Wide Experts(MoWE)。该架构通过让稀疏专家读取完整表征并写入固定且不相交的输出坐标,使模型能够直接学习到具备可解释性的原生特征。评测结果显示,在10 billion tokens的训练规模下,MoWE的原生坐标特异性得分达到0.523,显著优于Dense架构的0.375以及标准MoE架构的0.268;同时,其原生坐标的可解释性表现能够媲美在Dense架构上额外训练的TopK稀疏自编码器(SAE)。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv 机器学习
    Mixture of Wide Experts:面向可解释原生坐标的稀疏路由

    Mixture of Wide Experts(MoWE)通过让稀疏专家读取完整表征并写入固定且不相交的输出坐标,使模型能直接学习可解释的原生特征。在 10 billion tokens 训练下,MoWE 原生坐标特异性得分达 0.523,显著优于 Dense(0.375)和标准 MoE(0.268),可解释性媲美 Dense 架构上训练的 TopK SAE。

本事件热度走势

当前热度 7·可比范围峰值 10(11月4日 14:00)·近 24 小时可比范围变化–

02.557.51011月4日14:0011月4日18:0011月4日22:0011月5日02:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。