本文へスキップ
ホットトピック継続更新中

研究者提出MoWE架构提升模型原生坐标可解释性

1 件の報道1 件の報道元16 時間前 更新

まずこの件を把握する

AI 概要

2026年11月4日,arXiv发表的研究提出了面向可解释原生坐标的稀疏路由架构Mixture of Wide Experts(MoWE)。该架构通过让稀疏专家读取完整表征并写入固定且不相交的输出坐标,使模型能够直接学习到具备可解释性的原生特征。评测结果显示,在10 billion tokens的训练规模下,MoWE的原生坐标特异性得分达到0.523,显著优于Dense架构的0.375以及标准MoE架构的0.268;同时,其原生坐标的可解释性表现能够媲美在Dense架构上额外训练的TopK稀疏自编码器(SAE)。

AI が報道をもとに生成 · 16 時間前 更新

報道タイムライン

報道をたどり、出来事のさまざまな側面を知る。

11月4日
  1. arXiv 机器学习
    Mixture of Wide Experts:面向可解释原生坐标的稀疏路由

    Mixture of Wide Experts(MoWE)通过让稀疏专家读取完整表征并写入固定且不相交的输出坐标,使模型能直接学习可解释的原生特征。在 10 billion tokens 训练下,MoWE 原生坐标特异性得分达 0.523,显著优于 Dense(0.375)和标准 MoE(0.268),可解释性媲美 Dense 架构上训练的 TopK SAE。

このストーリーのホット度の推移

現在のホット度 6·比較可能範囲のピーク 10(11月4日 14:00)·直近24時間の比較可能な変化–

02.557.51011月4日14:0011月4日19:0011月5日00:0011月5日05:00

トレンドは継続して完全に観測した同じ主体のみを比較するため、現在のホット度の集計より範囲が狭い場合があります。ポインターの移動やタップで1時間ごとのホット度を確認でき、キーボードでは左右の矢印キーで切り替えられます。