空间协作何时有效?去中心化在线频谱异常学习中的污染机制Chinese
去中心化在线频谱异常学习中空间协作存在污染扩散风险,研究表明无防御时模型污染扩散由占用率决定且与接收器间相关性无关。空间融合的收益高度依赖跨接收器相关性与检测器工作点,协作既可能提升也可能劣化检测性能。针对碎片化传输规避平滑统计门控的漏洞,结合时间平滑门控与单样本门控可显著提升对间歇性污染的鲁棒性。
去中心化在线频谱异常学习中空间协作存在污染扩散风险,研究表明无防御时模型污染扩散由占用率决定且与接收器间相关性无关。空间融合的收益高度依赖跨接收器相关性与检测器工作点,协作既可能提升也可能劣化检测性能。针对碎片化传输规避平滑统计门控的漏洞,结合时间平滑门控与单样本门控可显著提升对间歇性污染的鲁棒性。
研究人员提出面向异质图自监督学习的高效可扩展框架 MVMAE,采用掩码整个元路径视图并利用可见视图重构表征的新策略。该框架通过离线聚合机制预计算表征以避免构建子图,并配合 Transformer 融合编码器捕捉跨视图关联。在 6 个真实数据集(含 3 个大规模图)上的实验显示,MVMAE 表现优于主流自监督及半监督基准,代码已开源。
该研究从决策论视角拓展了经典 Blackwell 理论,建立了适用于公平性与无偏性等策略约束下的受约束数据处理不等式。针对在后处理下封闭的约束,作者定义了受约束不足量(constrained deficiency)并证明了受约束随机化定理。
研究探索了脑电(EEG)在可穿戴步态冻结(FoG)检测中的价值,发现仅在预训练阶段引入 EEG 即可显著增强纯惯性测量单元(IMU)检测器。基于 184 人共 94 小时同步数据,将 EEG 作为推理输入可使 FoG F1 从 0.663 提升至 0.740;而仅通过联合预训练对齐,亦能使部署时仅依赖 IMU 的检测器 F1 提升至 0.705,跨群体 F1 提升 0.083。
研究团队提出 VoirDire,通过受控的反事实干预校准大语言模型评审委员会(LLM-judge panels)聚合,以削弱模型对冗长、格式等表面属性的共享偏见。在涵盖连续评分、二分类与成对偏好的 12 个数据集评测中,VoirDire 相比现有聚合基线将连续评分任务的 MAE 最多降低 26.8%,并在二分类与偏好任务上将准确率最高提升 5.3 个百分点。
研究提出整数精确微缩放技术,将 MXFP4 语言模型线性层转为单次 INT8 GEMM,可在 Apple M5 等 INT8 矩阵单元上运行。在 125B 参数 MoE 模型 Qwen3.8-Flash-Next 上全矩阵量化后 GSM8K 达 94.8%(优于 MLX MXFP4 的 91.0%)。
因果发现算法在真实商业数据中普遍失效,一项覆盖 2,901 家美股企业 31 个季度的评估显示真实数据严重破坏了算法的基础假设。71 种公司行动中有 40 种因干预过少无法检测到 0.1 个标准差的效应,调优后的因果发现方法表现甚至弱于成对互相关。研究针对每项数据性质提出了可在运行算法前执行的诊断指标。
基于质量感知混合 Boruta 选择器,研究人员利用 33 种癌症类型的 10,469 例 TCGA 肿瘤数据开发并评估了集成分类器与癌症特异性基因特征。在锁定测试集上,逻辑回归单学习器实现 0.943 平衡准确率,Stacking 在 100 基因 panel 下优于逻辑回归,且 9 种癌症的 5 基因 I 期肿瘤 panel 达到 ROC AUC >= 0.99。
研究针对有限步长 SGD 提出了“随机学习流”(SLF)矩方程,在高斯闭包下推导出学习率 $\eta$ 一阶精度下的参数分布均值与协方差动力学。该理论表明均值沿受协方差与损失曲率正则化的有效损失下降,且协方差在曲率达到 $2/\eta$ 时失稳。在线性与非线性网络中,SLF 比梯度流更准确地预测了学习曲线与均值轨迹,并揭示了稳定边缘机制。
新研究系统评估了利用子问题预测合成监督的“组合式自我改进”方法,指出其能扩展模型能力但存在三大失效模式。受控实验发现该方法受限于子问题预测不可靠、组合引入错误及监督覆盖有限,但在代码与推理任务中生成的标签仍比直接自生成更准确。此外,简短的组合式 SFT 预热可有效引导强化学习,在直接探索难以成功的复合技能任务中发挥作用。
研究人员提出无需仿真的训练目标 Velocity Matching(VM),通过分段线性插值与随机搭配学习非线性动力系统的连续时间演化。该方法在采样步长上实现速度总体风险的二阶近似,无需直接访问底层速度场即可隐式匹配雅可比矩阵作用。在非线性 ODE 与半离散时间 PDE 实验中,VM 较基于轨迹的目标提升了精度,同时规避了仿真成本与长推演不稳定性。
CLiS 是一种针对 TPU 视频扩散推理的免训练即插即用优化方案,通过在 KV loop 前固定逐行稳定因子并认证数值安全加速注意力计算。在 TPU v6e 和 TPU7x 上运行 Wan 2.2 与 LTX-2 时,它在无质量损失下将 DiT 单步延迟降低最多 19.6%。初步实验还显示其在因果 LLM 持续预训练中取得最多 13.5% 的吞吐量提升。
该研究提出了履行性环境下的端到端统计推断框架,旨在解决预测决策改变数据分布并向后传播误差的难题,适用于自演化 AI 系统。该框架为重复风险最小化与重复梯度下降建立了中心极限定理,通过协方差递推式构建渐近有效置信区域,并融合了预测驱动推断。在自演化 LLM 路由等实验中,忽视误差传播会导致严重的置信覆盖不足。
该研究提出结合地理加权随机森林与 Local Spatial TreeSHAP 算法的空间可解释机器学习框架,用于在社区尺度解析城市洪涝韧性机制。该框架应用于受 2023 年 7 月北京极端暴雨影响的 779 个社区,显示 SHAP 值空间自相关较预测变量平均降低 66.2%,并揭示出横跨城镇化梯度的三种不同韧性模式。
评测表明,d3-nano、Jev 1.13、GPT-6 Luna 及 Qwen3.5-2B 在等效光学光谱上缺乏表征一致性,仅改变呈现格式准确率波动便达 41 个百分点。更换提问单位会使表现提升 16-50 点或下降达 25 点,且数据缺失时未适配模型极少主动拒答。d3-nano 经 LoRA 微调易学到截断即拒答的捷径,相关评测任务与代码已开源。
新研究提出深度学习的谱重整化群(RG)视角,揭示神经网络层重尾幂律谱指数 $\alpha \approx 2$ 是稳定学习与过拟合的统计及物理分界点。该数值在物理上使谱能量增益在对数谱尺度上均匀缩放,满足威尔逊边缘条件。基于此建立的 SETOL 理论将谱 RG 流与 Muon 优化器相连接,并衍生出新的优化器扩展 WW-PGD。
RankLane 提出按当前负载对加速器上的专家进行排序并分配至固定容量通道,以解决静态执行计划下的 MoE prefill 效率问题。该方案在四颗 Cloud AI 100 Ultra SoC 上对采用 MXFP6 权重的 Qwen3-30B-A3B 与 Gemma 4 26B-A4B 进行了全模型评测。
TileWeave 提出面向移动 SoC 的异构分块方案,将高复用 key 块分流至 NPU、低复用块交由 GPU 执行,以加速大语言模型长上下文稀疏预填充。
MXCode 框架将超低比特矢量量化(VQ)与 MX 原生 FP4 计算结合,无需物化中间高精度权重即可实现单权重约 2-bit 存储。该框架包含 PostScale、PreScale 与 PreScale+ 三种策略,并在 Qwen3 (235B)、DeepSeek-R1 (671B) 和 GLM-5.2 (753B) 上完成验证。
大模型遗忘方法 SHIFT 通过向微调前权重收缩并短暂重学保留集,将前瞻变化外推为蒸馏目标以逼近重训模型。在 OpenUnlearning 协议下对比 11 个基线,SHIFT 在所有 TOFU 设置中取得最高综合评分,oracle 对齐度平均达到次优方法的 3.7 倍。此外,该方法在 MUSE 上保留了最多知识,且在重学习攻击下仍能紧贴 oracle。
新研究针对测试时计算自我评估中增加候选无法持续缩小与 pass@N 差距的问题,提出对随机分组候选联合评分的 Scorpio 方法。在数学、代码等基准上,Scorpio 在验证任务中较最强基线最高提升 7 个百分点准确率,同时推理成本降低 17-42%。此外,该方法在树搜索与编程聚合任务中分别带来最高 10 和 11 个百分点的准确率提升。
DEPLOY-RL 是面向安全关键连续过程的强化学习训练后认证框架,通过主动发现失效边界为策略部署提供统计安全保证。该框架采用契约耦合采集函数聚焦关键边界采样,实现约 2x 样本效率提升,并通过保形风险控制提供有限样本 false-go 保证。在评估协议的 14 个基准中,该方案是唯一保持超过 85% 覆盖率的方法。
研究团队提出可解释框架 MoTIF,利用 MoE 注意力机制将不规则时间序列分解为分钟至年尺度的时序模式。在合成数据上,其正确路由率达 0.389(区间模式)和 0.829(周期模式),在下一值预测中超越标准 Transformer 与未特化 MoE。在信用卡数据集上其金额预测取得更高 macro-F1,目前代码已开源。
研究者提出面向长上下文 SpeechLLM 推理的语音引导检索方法 C3,以缓解音频 KV cache 占用的显存与解码开销。C3 通过分层键空间索引组织音频 KV,让共享查询头竞争检索预算,并自适应调节检索分辨率。在 4 个 SpeechLLM 的语音识别、翻译和摘要测试中,C3 在同等 KV 访问预算下表现最优,有效提升了解码效率与显存扩展性。
该研究针对智能电网广域测量系统(WAMS)中的信息物理攻击,系统分析了针对历史与流式 PMU 数据的前沿异常检测方法。针对北美电网已部署超 2500 台 PMU、单台采样率达 30 至 60 samples/s 所带来的海量数据处理挑战,论文对比评估了传统机器学习与混合方法的优缺点及对系统可用性的影响。此外,研究还强调了解决 PMU 数据缺失与概念漂移问题的重要性。
研究人员提出多目标贝叶斯优化方法 RaMMOBO,其采集函数作为 EHVI 的下界,将评估计算复杂度从指数级降至随目标数 M 线性增长。该方法支持噪声观测与梯度优化,在合成与真实基准中性能达到或超越现有 SOTA 方法,且采集优化速度比 qLogNEHVI 最多快两个数量级。
研究人员提出 MICF 框架,利用机械可解释性工具通过激活引导在 Transformer 中重构反事实公平性约束。该框架无需先验因果模型或特定 Transformer 架构,将既有方法整合为单一的公平性分析流水线。在真实世界表格数据上的实验表明,MICF 能够有效改善跨不同预测任务的反事实公平性。
针对大模型训练后量化(PTQ)的精度损失问题,新研究提出将原始权重分解为量化矩阵、低秩分量及捕获异常行的稀疏矩阵,并利用模拟退火算法搜索最优分解。在 4-bit NF4 与 FP4 量化测试中,该方案在 Llama 3.2 1B、Llama 3.2 3B、Llama 3.1 8B 及 Qwen2.5 7B 上的表现显著优于直接量化,且仅带来极小的内存开销。
研究人员提出多模态隐式神经表征网络 OCELOT,通过融合空间坐标与卫星基座嵌入,利用涵盖 100,000 个分类单元的 20 亿条 GBIF 记录进行行星级物种分布建模。在高达 600 km 的空间块留出测试中,卫星基座嵌入将偏远区域的地理外推 NDCG 指标提升了 51%,性能优于传统生物气候栅格,并兼顾了分布内插精度。
DELBERT-2 采用 ModernBERT 编码器在 2.5M 分子数据上进行掩码语言建模预训练,可将稀疏分子指纹转换为统一 token 序列以预测 DEL 蛋白质结合物。在 6 个靶点的分布外测试中,其 PR-AUC 与 NDCG@1000 均优于 LightGBM 等基线,Top-100 富集因子达到 13.28±3.72,相关代码已开源。
IsoAlign 提出了一种通过同工型感知 DNA-蛋白质对齐改进基因组基础模型(GFM)预训练的多模态框架。该框架基于联合嵌入预测架构(JEPA),包含用于对比对齐预测蛋白质表征的 DP-JEPA,以及通过掩码蛋白质预测建模同一基因不同同工型关系的 IM-JEPA。实验表明,该方法在致病性预测、适应度、基因表达和 TF 结合等下游任务中显著提升了表征性能。
研究人员提出了无回拉优化器 ProLand(Product-space Landing),通过结合协调因子更新与 Muon 风格谱方向,改进 LoRA 微调中的流形优化效率。
研究者提出用于校准图神经网络的可解释结构温度缩放(ISTS),通过 12 参数线性模型依据节点置信度和邻域等特征设定专属温度。在 7 个图数据集与 11 种基准对比中,ISTS 在负对数似然(NLL)和 Brier 分数上获最佳平均排名,相对温度缩放降低 1.8% NLL。该方法在点云分割任务中同样显著改善了 NLL 和 Brier 分数。
研究者提出了面向多目标问题的前向-后向马尔可夫决策过程(FB-MDPs),并推出强化学习算法 FB-MOAC。该算法具备收敛性保证与通用逐步优化模板,旨在解决随机控制及网络系统等兼具前向与后向动态的决策场景。在数理金融与移动资源管理等场景测试中,FB-MOAC 在多项指标上均超越了现有 SOTA 方法。
研究者提出结合 Jacobian Lens(J-Lens)的深度剪枝评分方法 J-BI,通过将层扰动映射至最终残差流,解决传统 Block Influence(BI)仅衡量局部冗余而忽视下游影响的问题。在相同稀疏度下,J-BI 使 Qwen3-8B、Llama-3.1-8B-IT 和 Gemma-3-12B-IT 的剪枝后准确率较 BI 最高提升 19 个百分点,同时显著减少了对模型困惑度的损伤。
主流厂商在AI超节点散热上呈现冷板全液冷、相变浸没式液冷与风液混合三种路径分化。英伟达、华为、字节跳动与中兴通讯推进全液冷架构以支撑高功率密度;中科曙光C8000 V3.0主打单机柜超900kW的MW级相变浸没式液冷;阿里云、百度、锐捷网络与新华三则采用风液混合或核心冷板覆盖方案,兼顾建造成本与运维灵活性。
The Heihe Area of the Heilongjiang Pilot Free Trade Zone disclosed the filing of a green compute-power integration and cross-border computing infrastructure project with a total investment of 7.18 billion yuan. The facility plans to deploy a 10,000-accelerator computing cluster powered by Huawei's Ascend 950 series, delivering 12,000 PFLOPS of FP8 compute power. Utilizing a hybrid air- and liquid-cooling architecture alongside natural free cooling, the project is designed for an average annual PUE of no higher than 1.15. Dedicated lithium iron phosphate (LFP) energy storage will replace conventional backup diesel generators. Construction will proceed in rolling phases, with Phase 1 validating the commercial and operational models before scaling up.
Why it matters: By detailing a compute-power integration architecture that combines a 10,000-card computing cluster with dedicated energy storage to replace diesel generators, the project establishes practical benchmarks for aligning compute capacity with energy efficiency in extremely cold regions.
商汤研究院联合港科大 MMLab 等机构提出多轮图像编辑训练方法 MT Forcing,以解决自回归扩散模型在连续编辑中的画质退化与内容漂移。该方案融合 Single-Turn DMD 教师分布匹配与 Teacher-Forcing Guidance 监督,有效缓解暴露偏差并保留跨轮细节。
创材深造创始人王轩泽在专访中表示,AI正在将偶遇式的经验试错转变为确定性的材料研发流水线。团队通过自建迭代至3.0版本的自动化实验室,采集涵盖720个维度、单条约10GB的多模态真实实验数据,累计已达数万条,并依托M-Loop智能体框架研发出近20款金属新材料。他预计当高质量真实数据积累至数十万条时,金属材料领域将在明后年迎来类似GPT的质变突破。
科理新序创始人张载熙致力于构建科学原生多模态基座模型,通过自定义 scientific token 统一蛋白质结构与组学等模态,直接在科学空间中进行推理。团队设定了跨模态科学推理超越通用模型的 SSI(科学超级智能)标准,并计划明年建设自动化实验室以跑通干湿闭环。