Skip to content
Nov 3Tue
  1. arXiv 人工智能25

    具备自动聚类数量估计能力的广义稀疏模糊聚类框架 GSFCChinese

    研究提出广义稀疏模糊聚类(GSFC)框架,通过在模糊目标函数中引入连续稀疏惩罚,实现对真实聚类数量的自动估计。该方法采用原对偶二分搜索将微小隶属度精确驱动为零以动态剪枝冗余聚类,并引入虚拟噪声槽隔离异常值。测试表明,GSFC 在 UCI 葡萄酒与高光谱图像等基准及线段检测任务中显著超越传统模糊聚类基准。

  2. arXiv 自然语言处理32

    从割裂走向融合:全模态嵌入综述与路线图Chinese

    针对多模态嵌入模型研究各自割裂的现状,一项新综述提出了全模态嵌入的统一演进框架与路线图。在对比学习与 Transformer 架构等驱动下,跨模态嵌入正走向收敛,论文为此提炼出覆盖度、可比性与组合性三项递进能力。实现统一的路径则依次对应拓展覆盖度的变换、实现可比性的对齐,以及终极面向组合性的联合嵌入。

  3. arXiv 机器学习29

    未知 i.i.d. 特征下通用 VC 类的紧致随机序列覆盖Chinese

    新研究针对特征分布未知的混合在线学习,证明有限 VC 维 $d$ 即可实现对数大小为 $O(d\log T+\log(1/\delta))$ 的紧致随机序列精确覆盖,匹配最坏情况理论下界。该方法引入局部立方体权重进行非均匀分割,首次为未知 i.i.d. 特征的通用 VC 分区实现了 $O((d+1)\log T)$ 的紧致期望对数损失遗憾,并提供了平面仿射半空间的多项式时间实现。

  4. arXiv 机器学习33

    用有向单纯复形探索神经网络表征Chinese

    研究人员提出一种基于滤子有向单纯复形(DSCs)的拓扑表征方法,用于揭示人工神经网络内部的高阶因果依赖。该方法将神经网络视为结构因果模型,利用反事实消融测试特定输入语境下神经元群体间的因果关联。在二维象限分类的多层感知机(MLP)验证中,DSCs 成功复原了预设特征路径,为研究分布式特征表征与多义性提供了新框架。

  5. arXiv 机器学习35

    PeptSol:面向药物制造中保护多肽溶解度的转化评测基准Chinese

    开源基准 PeptSol 汇集了 1388 条人工整理的保护多肽溶解度测量数据,涵盖 84 个亲本序列和 101 个受保护结构,用于评估液相多肽合成相关的分子表征能力。在 7 个冻结分子编码器的评测中,二元溶解度预测的最佳 macro-F1 达到 0.843,三分类任务达到 0.614。测试显示目前尚无基础模型能持续击败化学指纹结合显式分子描述符的基准线。

  6. arXiv 机器学习30

    通过 lift-project SDE 从未配对快照中学习隐状态动力学Chinese

    研究团队提出 lift-project SDE,通过在观测坐标基础上引入少数隐藏坐标从未配对快照中学习动力学,突破了传统单坐标演化模型在负滞后协方差下的理论误差下限。在 Duffing 与摆振子系统测试中,该方法仅需一个隐藏坐标即可将滞后协方差误差相比最强基线分别降低 2.4 倍和 6.6 倍,是唯一低于该误差下限的模型。

  7. arXiv 机器学习34

    用于离线生物序列设计的不确定性感知质量多样性优化Chinese

    研究人员提出用于离线生物序列设计的不确定性感知质量多样性优化框架 POME。该方法利用基础模型作为先验,引导搜索进入合理的生物学区域,实现在不确定性下的稳健探索。在三项序列设计任务中,POME 相比离线 QD 和 MBO 基准全面提升表现,在两项任务中取得最佳性能,并保持高多样性与新颖性。

  8. arXiv 机器学习33

    基于拓扑不变性简化发现行为转换Chinese

    研究提出一种基于拓扑不变性简化的方法,利用离散莫尔斯图提取轨迹密度景观中的路径与环路结构,无需预先划分离散状态即可直接识别行为转换。在大鼠行为数据集的 3 个特征空间测试中,该方法在保持相当覆盖率的同时携带了更多转换信息,聚类更紧凑且减少了对时间规整的依赖,验证了行为转换具有跨特征空间的拓扑一致性。

  9. arXiv 机器学习36

    粗粒度观测下的生成式预测:级联何时有效?Chinese

    针对流体与波等粗粒度动力系统预测,研究发现标准扩散模型和随机插值存在显著分布误差,而级联短程预测能大幅降低湍流与波的误差。然而在直接预测易于学习(如被动标量的高斯情况)时级联反而有害,其最优深度取决于未解析尺度与观测尺度的耦合强度。团队已公开发布相关数据集,作为首个具有真值条件集成的概率预测基准。

  10. arXiv 机器学习36

    通过并行流利用冻结时间序列基础模型构建通用图基础模型Chinese

    GraphFlowFM 无需图预训练与梯度更新,通过将图分解为并行流路径,直接利用冻结的 TimesFM 时间序列基础模型充当图基础模型。在节点分类评测中,其在 21 个数据集上取得 2025 和 2026 年图基础模型中的最佳平均排名,并在 17 个数据集上排名第一。此外,它在全部 6 个链接预测数据集上超越预训练图基础模型,在分子分类中排名第二。

  11. arXiv 机器学习34

    GateTrim:面向大语言模型的自适应秩量化方法Chinese

    GateTrim 是一种面向大语言模型的自适应秩训练后量化方法,通过门控向量优化与阈值筛选自动确定各权重矩阵的保留秩。在 W4A8 设置及 Qwen3 和 Llama 系列 5 款模型上,阈值设为 0.7 时可将平均保留秩降低 46.60%–67.89%,同时使 WikiText-2 困惑度降低 0.59%–5.17%,目标导出体积缩减 1.50%–4.25%。

  12. arXiv 机器学习39

    LayerLoom:推理优先的层粒度 LoRA 协同服务Chinese

    研究团队提出 LayerLoom 协同服务架构,将 LoRA 微调反向任务以层粒度挂载至推理前向传播,避免微调阻塞突发推理请求。该系统通过跨层错开微批次、将激活状态卸载至主机内存,并借助融合算子单次读取基础权重完成计算。在 RTX 4090 上运行 Llama-3.1-8B 时,其联合 SLO 达标率提升 13.5-21.8 个百分点,微调吞吐量最高提升 12%。

  13. arXiv 机器学习47

    Heirloom:跨基座模型代际迁移手机个性化Chinese

    Heirloom 是一款可在手机端将个性化 adapter 迁移至新基座模型的系统,无需保留带标签的历史数据,且内存中始终仅保留一个基座模型。该系统在电影打标任务中保持了升级前准确率,与带标签重新训练的差距最多仅 1.7 个百分点。在手机 NPU 上,4B 模型升级的迁移耗时 38 分钟并耗电 20%,适合在夜间充电时完成。

  14. arXiv 机器学习36

    筛选 LLM 生成假设可提升超越 LLM 评审团预期的真实性:基于 NAS-Bench-201 与 HPOBench 的预注册研究Chinese

    一项针对 Claude 和 GPT 的预注册研究表明,先生成候选假设再独立调用筛选的两阶段方法,可显著提升 Sonnet 在 NAS-Bench-201 上的超额真实性且不降低查准率。该实验基于 NAS-Bench-201 与 HPOBench 精确查表验证假设真实性,并由 LLM 评审团评估非显而易见性。此外,针对 LLM 裁判优化框架虽能提高评分,却会导致生成器的查准率急剧下降。

  15. arXiv 机器学习37

    在 10 亿参数规模下连接奇异学习理论与机理可解释性Chinese

    研究人员在 10 亿参数模型 Pythia-1B 上建立了奇异学习理论(SLT)与机理可解释性(MI)的直接对应关系,证明二者均取决于组件参数到预测映射的导数。在 Dyck 括号匹配任务的全部 154 个检查点中,144 个组件的 Fisher 迹变化可追踪因果效应变化(中位数偏秩相关 0.51),且成对交互曲率能追踪联合消融交互。

  16. arXiv 机器学习34

    面向安全强化学习的结构化对偶自适应方法 SDLAChinese

    研究人员提出面向安全强化学习的结构化对偶自适应(SDLA),通过连续响应替代原对偶的 bang-bang 切换,并利用三分搜索计算乘子。在 OmniSafe 和 HASARD 基准上,结合 SDLA 的 PPO 与 SAC 改善了约束跟踪。其中 PPO-SDLA 在 HASARD 的 18 个设置中有 6 个平均奖励高于人类基准且满足代价预算,包括 4 个平均代价更低的设置。

  17. arXiv 机器学习38

    ECG2Gene:基于心电图深度学习的胚系肿瘤易感基因风险评估Chinese

    深度学习框架 ECG2Gene 能够从常规 12 导联心电图提取胚系肿瘤易感数字表型,用于预测未来癌症风险。该框架针对 ATM、BRCA1 等 6 种基因变异生成评分,并通过 XGBoost 结合临床变量预测乳腺癌、卵巢癌和前列腺癌,在 UK Biobank 中的最佳 AUROC 分别达到 0.683、0.633 和 0.660。

  18. arXiv 机器学习34

    稀疏自编码器(SAE)归因图由边界裕度决定Chinese

    研究发现稀疏自编码器(SAE)的特征归因图主要由边界裕度决定,在 Pythia 模型的 TopK SAE 上将单特征置零有 0.74 以上的概率导致下层特征跨越截断阈值。相较于传统基于预先激活特征构建的图存在 0.247 以上的中位相对误差,将一阶变化计入预激活并重新排序的边界图在相同计算成本下将误差降至 0.033 以内。

  19. arXiv 机器学习40

    正交约束能否在球面优化之外提升语言模型训练?Chinese

    一项基于 360M 至 3.1B 参数 LLM 及近 200B tokens 训练的研究表明,行间正交约束在球面优化之外无法提升预训练性能。在测试的 14 种变体中,每行单位球面优化已优于调优后的 Muon,进一步引入行正交不仅无额外增益且大分块更差;既往 5 项研究报告的提升实由数值精度或行范数控制等因素导致。

  20. arXiv 机器学习38

    TVP:推测解码中 TV 几乎就是全部所需Chinese

    研究人员提出针对推测解码的 TVP 损失函数族,基于期望接受长度与全变差(TV)距离优化草稿模型。针对 TV 梯度消失等问题,TVP 通过幂参数在覆盖率与接受率目标间插值,在 3 种草稿架构和 3 种目标模型上均取得最高或并列最高接受长度。微调时 TVP 相比 CE 将接受长度提升 9.8%,较 DFlash2 提升 6.2% 至 12.9%。

  21. arXiv 机器学习34

    数据集不匹配对可验证奖励强化学习中的 GRPO 至关重要Chinese

    针对源训练集与目标测试集分布不一致的问题,研究提出将目标端性能反馈引入 GRPO 的重加权采样方法 L2RR(learning-to-reweight rollout)。该方法通过双层优化目标学习源提示词的离散采样分布,在最大化保留目标集准确率的同时惩罚增量信息较低的采样。在 6 个数学推理基准和 3 种模型规模上的实验表明,L2RR 提升了目标域性能并提高了采样效率。

  22. arXiv 机器学习36

    Transformer 注意力机制的锥规划认证Chinese

    研究提出针对 Transformer 注意力机制的锥规划认证理论,解决了输入扰动下注意力头输出界限松紧度缺乏保证的问题。该方法证明认证难点在于 query 与 key 的双线性交互,并利用指数锥矩松弛实现误差关于扰动半径呈二次方有界的认证。在 GPT-2 上的实验表明,该认证在每个注意力头上均比线性界传播更紧,并达到预测的二阶精度。

  23. arXiv 机器学习32

    预算受限风险监控中免费协变量的一阶价值Chinese

    研究证明在预算受限的风险监控中,仅依赖历史标签的规则存在一阶最坏延迟下界,而利用免费输入协变量触发打标可将延迟降至 $\log A/h(r)$,节省至少 $1/b$ 轮时间。针对输入未发生改变的风险上升,研究提出了引入标签历史回退的混合规则,并在合成数据与两项 ACS 任务上得到验证。不过该机制存在代价,良性输入偏移可能导致其请求几乎所有标签。

  24. arXiv 机器学习34

    TabAbax:表格基础模型技术报告Chinese

    表格基础模型 TabAbax 基于 TabICLv2 构建,通过优化合成预训练先验与两轮行列编码器,显著提升了上下文预测性能。在 TabArena 回归基准中该模型达到 2,024 Elo(在 99 种方法中排第 7,比 TabICLv2 高 336 Elo),在 BeyondArena 达到 1,238 Elo。消融实验证实,仅改进合成先验就在回归任务中带来 +228 Elo 提升。

  25. arXiv 机器学习47

    从数周缩减至数小时:推理 LLM 的快速 SFT 数据生成方法Chinese

    研究人员提出 SFTProbe,通过评估推理轨迹 5% 的 loss 预测数据质量,将推理 LLM 的 SFT 数据整理时间从数周缩减至数小时。在数学推理任务中,该方法生成的 5k 样本性能媲美 OpenThoughts-Math 的 89k 筛选样本,7.5k 样本准确率高出 2.5%。团队已开源相关代码及物理推理数据集,其训练的模型表现超越了 IPhO 2025 银牌模型。

  26. arXiv 机器学习31

    空间协作何时有效?去中心化在线频谱异常学习中的污染机制Chinese

    去中心化在线频谱异常学习中空间协作存在污染扩散风险,研究表明无防御时模型污染扩散由占用率决定且与接收器间相关性无关。空间融合的收益高度依赖跨接收器相关性与检测器工作点,协作既可能提升也可能劣化检测性能。针对碎片化传输规避平滑统计门控的漏洞,结合时间平滑门控与单样本门控可显著提升对间歇性污染的鲁棒性。

  27. arXiv 机器学习34

    面向异质图自监督学习的高效可扩展多视图掩码自编码器 MVMAEChinese

    研究人员提出面向异质图自监督学习的高效可扩展框架 MVMAE,采用掩码整个元路径视图并利用可见视图重构表征的新策略。该框架通过离线聚合机制预计算表征以避免构建子图,并配合 Transformer 融合编码器捕捉跨视图关联。在 6 个真实数据集(含 3 个大规模图)上的实验显示,MVMAE 表现优于主流自监督及半监督基准,代码已开源。

  28. arXiv 机器学习34

    EEG 在可穿戴步态冻结检测中何处发挥作用?Chinese

    研究探索了脑电(EEG)在可穿戴步态冻结(FoG)检测中的价值,发现仅在预训练阶段引入 EEG 即可显著增强纯惯性测量单元(IMU)检测器。基于 184 人共 94 小时同步数据,将 EEG 作为推理输入可使 FoG F1 从 0.663 提升至 0.740;而仅通过联合预训练对齐,亦能使部署时仅依赖 IMU 的检测器 F1 提升至 0.705,跨群体 F1 提升 0.083。

  29. arXiv 机器学习44

    VoirDire:用于可靠 LLM-as-a-Judge 聚合的反事实校准方法Chinese

    研究团队提出 VoirDire,通过受控的反事实干预校准大语言模型评审委员会(LLM-judge panels)聚合,以削弱模型对冗长、格式等表面属性的共享偏见。在涵盖连续评分、二分类与成对偏好的 12 个数据集评测中,VoirDire 相比现有聚合基线将连续评分任务的 MAE 最多降低 26.8%,并在二分类与偏好任务上将准确率最高提升 5.3 个百分点。

  30. arXiv 机器学习35

    因果发现在真实数据中为何失效:逐项属性检验基础假设Chinese

    因果发现算法在真实商业数据中普遍失效,一项覆盖 2,901 家美股企业 31 个季度的评估显示真实数据严重破坏了算法的基础假设。71 种公司行动中有 40 种因干预过少无法检测到 0.1 个标准差的效应,调优后的因果发现方法表现甚至弱于成对互相关。研究针对每项数据性质提出了可在运行算法前执行的诊断指标。

  31. arXiv 机器学习29

    基于 TCGA RNA-Seq 数据质量感知混合基因选择的集成分类与癌症特异性基因特征Chinese

    基于质量感知混合 Boruta 选择器,研究人员利用 33 种癌症类型的 10,469 例 TCGA 肿瘤数据开发并评估了集成分类器与癌症特异性基因特征。在锁定测试集上,逻辑回归单学习器实现 0.943 平衡准确率,Stacking 在 100 基因 panel 下优于逻辑回归,且 9 种癌症的 5 基因 I 期肿瘤 panel 达到 ROC AUC >= 0.99。

  32. arXiv 机器学习33

    随机学习流:有限步长下 SGD 的矩方程Chinese

    研究针对有限步长 SGD 提出了“随机学习流”(SLF)矩方程,在高斯闭包下推导出学习率 $\eta$ 一阶精度下的参数分布均值与协方差动力学。该理论表明均值沿受协方差与损失曲率正则化的有效损失下降,且协方差在曲率达到 $2/\eta$ 时失稳。在线性与非线性网络中,SLF 比梯度流更准确地预测了学习曲线与均值轨迹,并揭示了稳定边缘机制。

  33. arXiv 机器学习38

    组合式自我改进:前景与局限Chinese

    新研究系统评估了利用子问题预测合成监督的“组合式自我改进”方法,指出其能扩展模型能力但存在三大失效模式。受控实验发现该方法受限于子问题预测不可靠、组合引入错误及监督覆盖有限,但在代码与推理任务中生成的标签仍比直接自生成更准确。此外,简短的组合式 SFT 预热可有效引导强化学习,在直接探索难以成功的复合技能任务中发挥作用。

  34. arXiv 机器学习35

    通过速度匹配学习动力系统演化Chinese

    研究人员提出无需仿真的训练目标 Velocity Matching(VM),通过分段线性插值与随机搭配学习非线性动力系统的连续时间演化。该方法在采样步长上实现速度总体风险的二阶近似,无需直接访问底层速度场即可隐式匹配雅可比矩阵作用。在非线性 ODE 与半离散时间 PDE 实验中,VM 较基于轨迹的目标提升了精度,同时规避了仿真成本与长推演不稳定性。

  35. arXiv 机器学习34

    CLiS:基于可验证稳定化的 TPU 视频扩散即插即用注意力加速Chinese

    CLiS 是一种针对 TPU 视频扩散推理的免训练即插即用优化方案,通过在 KV loop 前固定逐行稳定因子并认证数值安全加速注意力计算。在 TPU v6e 和 TPU7x 上运行 Wan 2.2 与 LTX-2 时,它在无质量损失下将 DiT 单步延迟降低最多 19.6%。初步实验还显示其在因果 LLM 持续预训练中取得最多 13.5% 的吞吐量提升。

  36. arXiv 机器学习35

    履行性下的统计推断:从政策反馈到自演化系统Chinese

    该研究提出了履行性环境下的端到端统计推断框架,旨在解决预测决策改变数据分布并向后传播误差的难题,适用于自演化 AI 系统。该框架为重复风险最小化与重复梯度下降建立了中心极限定理,通过协方差递推式构建渐近有效置信区域,并融合了预测驱动推断。在自演化 LLM 路由等实验中,忽视误差传播会导致严重的置信覆盖不足。

  37. arXiv 机器学习34

    Local Spatial TreeSHAP:基于地理可解释 AI 揭示洪涝韧性的城镇化空间异质性Chinese

    该研究提出结合地理加权随机森林与 Local Spatial TreeSHAP 算法的空间可解释机器学习框架,用于在社区尺度解析城市洪涝韧性机制。该框架应用于受 2023 年 7 月北京极端暴雨影响的 779 个社区,显示 SHAP 值空间自相关较预测变量平均降低 66.2%,并揭示出横跨城镇化梯度的三种不同韧性模式。