本文へスキップ

すべての記事

今日 488 件
今日11月3日火
  1. arXiv 人工智能45

    论文提出 NURESA 神经架构：通过神经元持久记忆实现模型间零样本转移中国語

    研究提出 NURESA 神经层架构，通过持久单元内记忆将计算与存储分离，支持在无需重训或访问原始数据的情况下实现模型间零样本能力转移。在 MLP、GPT-2 和 Qwen2.5 上的测试显示，该架构还能有效防止模型微调时的领域损失。数百万至数十亿参数规模的 Transformer 模型仅需约 1 分钟即可完成转移，且生成文件比原模型小几个数量级。

  2. arXiv 自然语言处理44

    Circuit Oracle：通过自然语言查询实现归因图分析自动化中国語

    研究团队提出 Circuit Oracle，为现成 LLM 配备多智能体框架与专用技能，通过工具调用读取归因图以回答关于目标模型的自然语言安全问题。在伪特征检测任务中，其准确率达到 78.2 ± 2.4% 并优于单层特征排序基线；但在隐藏知识引出和 50 个提示词的拒绝抑制越狱任务中表现参半，且后者仅在允许 5 次尝试取最优时超过均值差基线。

  3. arXiv 人工智能28

    AuroraWorld：用于机器人操作外视点到第一人称视频生成的结构化 4D 世界建模中国語

    AuroraWorld 提出面向机器人操作的结构化 4D 世界建模，用于从外视点视频生成自我中心视点视频。自我中心观察能捕捉对视觉运动策略学习关键的接触交互与状态变化，但硬件部署与采集成本高昂。针对大幅视角转换、严重遮挡及复杂物体交互下难以保证物理一致性的问题，该研究为策略学习提供了可扩展的数据生成方案。

  5. arXiv 自然语言处理32

    实体替换响应的跨 Prompt 复用研究中国語

    在固定权重模型中跨 Prompt 复用实体替换响应时，隐层状态注入在 0.5-1B 的 Qwen 与 Llama 上分别消除了 45% 和 49% 的未改变错误。Gemma-2-2B 在恢复 BOS token 协议后错误消除率达 58%-68%，但更大 checkpoint 与 chat 格式会出现依赖性失效，非 chat 格式下隐层复用优势仅为 0.2-0.9 nats。

  7. arXiv 自然语言处理26

    酷儿化审计：基于社区的酷儿群体 AI 危害审计中国語

    研究团队组织 16 位酷儿社区成员开展参与式审计，运用 4Cs 危害分类法对 4 个案例贯穿 AI 生命周期进行审查。审计发现针对酷儿群体的抹除与歧视等危害根源在问题定义和数据收集阶段，并揭示了榨取弱势群体价值且缺乏救济途径的契约机制。该研究证实，基于社区的审计能有效发现常规技术聚合评估易遗漏的特定身份危害。

  8. arXiv 人工智能41

    PatchScout：基于信息觅食的主题网络数据收集中国語

    多智能体框架 PatchScout 通过信息觅食机制平衡局部挖掘与自适应块切换，解决长程主题网络数据收集难题。在 4 个真实网络主题实验中，PatchScout 在采集量和域名覆盖率上均显著优于遍历式方法与搜索增强推理智能体基线。在应用社会科学场景中，该框架成功发现 102 个此前未识别的实体，有效扩充了现有主题数据集。

  9. arXiv 自然语言处理32

    GAVAGAI：基于平衡最优传输的婴儿级视觉语言模型指称对齐中国語

    研究提出指称对齐方法 GAVAGAI，通过平衡最优传输将实词与视觉区域对齐，提升婴儿规模视觉语言模型的词图绑定能力。该方法通过引入 NOTHING 列过滤不可见词并施加区域容量约束，仅需约 8 次 Sinkhorn 迭代。在 SAYCam 语料库上，该损失使模型图词准确率从 32.4% 提升至 48.7%，定位 IoU 从 0.18 增至 0.38。

  10. arXiv 人工智能45

    大推理模型早期停止机制：效率与可靠性的综述与实证评估中国語

    研究人员在 5 个大推理模型上对早期停止（early-stopping）方法的效率与可靠性展开实证审计，并提出 TITE 指标跨目标衡量相对 token 效率。实验表明，模型在较晚退出位置的正确率可能出现异常下降，且部分正确早停输出的支持性推理质量偏弱，甚至在强制终止后仍存在推理延续倾向。相关代码实现已开源。

  11. arXiv 自然语言处理38

    LLM 谈判中的跨语言人设效应研究中国語

    大语言模型在谈判中执行相同人设提示词时存在显著跨语言行为差异。在 Gemini 3.6 Flash 的 432 场谈判测试中，韩语达成协议率为 77.3%，显著高于英语的 52.5%，主因是韩语卖家让步更多且礼貌缓和策略更频繁（11.7% vs. 3.6%）。使用 Qwen3.7 Flash 复现亦得出一致趋势，韩语达成率高出 13.9 个百分点。

  12. arXiv 人工智能25

    学习出价与捆绑销售：面向在线零售的后验采样 AI 智能体中国語

    研究人员提出一种面向在线零售的后验采样 AI 智能体，通过在每个周期从精确后验分布中抽样，联合决策赞助搜索广告出价与捆绑折扣策略。在模拟在线花店评测中，该智能体取得最低平均遗憾值，在弱势市场经历 500 个销售季仅损失单季收入的 12% 至 23%，且平均约 3 个销售季即可跳出停止出价的次优陷阱。

  13. arXiv 自然语言处理60

    MEMENTO：面向长上下文处理智能体的上下文管理学习方法中国語

    研究人员提出基于 Qwen3-8B 的长上下文智能体 MEMENTO，通过微调事后笔记轨迹并结合强化学习，训练模型在固定上下文窗口中自主进行信息压缩与管理。在包含高达 2.5M tokens 图书的四个问答基准测试中，MEMENTO 上下文占用始终不超过 20K tokens，将基座准确率从 36.9% 提升至 67.8%。

  14. arXiv 人工智能25

    具备自动聚类数量估计能力的广义稀疏模糊聚类框架 GSFC中国語

    研究提出广义稀疏模糊聚类（GSFC）框架，通过在模糊目标函数中引入连续稀疏惩罚，实现对真实聚类数量的自动估计。该方法采用原对偶二分搜索将微小隶属度精确驱动为零以动态剪枝冗余聚类，并引入虚拟噪声槽隔离异常值。测试表明，GSFC 在 UCI 葡萄酒与高光谱图像等基准及线段检测任务中显著超越传统模糊聚类基准。

  15. arXiv 自然语言处理32

    从割裂走向融合：全模态嵌入综述与路线图中国語

    针对多模态嵌入模型研究各自割裂的现状，一项新综述提出了全模态嵌入的统一演进框架与路线图。在对比学习与 Transformer 架构等驱动下，跨模态嵌入正走向收敛，论文为此提炼出覆盖度、可比性与组合性三项递进能力。实现统一的路径则依次对应拓展覆盖度的变换、实现可比性的对齐，以及终极面向组合性的联合嵌入。

  16. arXiv 机器学习29

    未知 i.i.d. 特征下通用 VC 类的紧致随机序列覆盖中国語

    新研究针对特征分布未知的混合在线学习，证明有限 VC 维 $d$ 即可实现对数大小为 $O(d\log T+\log(1/\delta))$ 的紧致随机序列精确覆盖，匹配最坏情况理论下界。该方法引入局部立方体权重进行非均匀分割，首次为未知 i.i.d. 特征的通用 VC 分区实现了 $O((d+1)\log T)$ 的紧致期望对数损失遗憾，并提供了平面仿射半空间的多项式时间实现。

  17. arXiv 机器学习33

    用有向单纯复形探索神经网络表征中国語

    研究人员提出一种基于滤子有向单纯复形（DSCs）的拓扑表征方法，用于揭示人工神经网络内部的高阶因果依赖。该方法将神经网络视为结构因果模型，利用反事实消融测试特定输入语境下神经元群体间的因果关联。在二维象限分类的多层感知机（MLP）验证中，DSCs 成功复原了预设特征路径，为研究分布式特征表征与多义性提供了新框架。

  18. arXiv 机器学习35

    PeptSol：面向药物制造中保护多肽溶解度的转化评测基准中国語

    开源基准 PeptSol 汇集了 1388 条人工整理的保护多肽溶解度测量数据，涵盖 84 个亲本序列和 101 个受保护结构，用于评估液相多肽合成相关的分子表征能力。在 7 个冻结分子编码器的评测中，二元溶解度预测的最佳 macro-F1 达到 0.843，三分类任务达到 0.614。测试显示目前尚无基础模型能持续击败化学指纹结合显式分子描述符的基准线。

  19. arXiv 机器学习30

    通过 lift-project SDE 从未配对快照中学习隐状态动力学中国語

    研究团队提出 lift-project SDE，通过在观测坐标基础上引入少数隐藏坐标从未配对快照中学习动力学，突破了传统单坐标演化模型在负滞后协方差下的理论误差下限。在 Duffing 与摆振子系统测试中，该方法仅需一个隐藏坐标即可将滞后协方差误差相比最强基线分别降低 2.4 倍和 6.6 倍，是唯一低于该误差下限的模型。

  20. arXiv 机器学习34

    用于离线生物序列设计的不确定性感知质量多样性优化中国語

    研究人员提出用于离线生物序列设计的不确定性感知质量多样性优化框架 POME。该方法利用基础模型作为先验，引导搜索进入合理的生物学区域，实现在不确定性下的稳健探索。在三项序列设计任务中，POME 相比离线 QD 和 MBO 基准全面提升表现，在两项任务中取得最佳性能，并保持高多样性与新颖性。

  21. arXiv 机器学习33

    基于拓扑不变性简化发现行为转换中国語

    研究提出一种基于拓扑不变性简化的方法，利用离散莫尔斯图提取轨迹密度景观中的路径与环路结构，无需预先划分离散状态即可直接识别行为转换。在大鼠行为数据集的 3 个特征空间测试中，该方法在保持相当覆盖率的同时携带了更多转换信息，聚类更紧凑且减少了对时间规整的依赖，验证了行为转换具有跨特征空间的拓扑一致性。

  22. arXiv 机器学习36

    粗粒度观测下的生成式预测：级联何时有效？中国語

    针对流体与波等粗粒度动力系统预测，研究发现标准扩散模型和随机插值存在显著分布误差，而级联短程预测能大幅降低湍流与波的误差。然而在直接预测易于学习（如被动标量的高斯情况）时级联反而有害，其最优深度取决于未解析尺度与观测尺度的耦合强度。团队已公开发布相关数据集，作为首个具有真值条件集成的概率预测基准。

  23. arXiv 机器学习36

    通过并行流利用冻结时间序列基础模型构建通用图基础模型中国語

    GraphFlowFM 无需图预训练与梯度更新，通过将图分解为并行流路径，直接利用冻结的 TimesFM 时间序列基础模型充当图基础模型。在节点分类评测中，其在 21 个数据集上取得 2025 和 2026 年图基础模型中的最佳平均排名，并在 17 个数据集上排名第一。此外，它在全部 6 个链接预测数据集上超越预训练图基础模型，在分子分类中排名第二。

  24. arXiv 机器学习34

    GateTrim：面向大语言模型的自适应秩量化方法中国語

    GateTrim 是一种面向大语言模型的自适应秩训练后量化方法，通过门控向量优化与阈值筛选自动确定各权重矩阵的保留秩。在 W4A8 设置及 Qwen3 和 Llama 系列 5 款模型上，阈值设为 0.7 时可将平均保留秩降低 46.60%–67.89%，同时使 WikiText-2 困惑度降低 0.59%–5.17%，目标导出体积缩减 1.50%–4.25%。

  25. arXiv 机器学习39

    LayerLoom：推理优先的层粒度 LoRA 协同服务中国語

    研究团队提出 LayerLoom 协同服务架构，将 LoRA 微调反向任务以层粒度挂载至推理前向传播，避免微调阻塞突发推理请求。该系统通过跨层错开微批次、将激活状态卸载至主机内存，并借助融合算子单次读取基础权重完成计算。在 RTX 4090 上运行 Llama-3.1-8B 时，其联合 SLO 达标率提升 13.5-21.8 个百分点，微调吞吐量最高提升 12%。

  26. arXiv 机器学习47

    Heirloom：跨基座模型代际迁移手机个性化中国語

    Heirloom 是一款可在手机端将个性化 adapter 迁移至新基座模型的系统，无需保留带标签的历史数据，且内存中始终仅保留一个基座模型。该系统在电影打标任务中保持了升级前准确率，与带标签重新训练的差距最多仅 1.7 个百分点。在手机 NPU 上，4B 模型升级的迁移耗时 38 分钟并耗电 20%，适合在夜间充电时完成。

  27. arXiv 机器学习36

    筛选 LLM 生成假设可提升超越 LLM 评审团预期的真实性：基于 NAS-Bench-201 与 HPOBench 的预注册研究中国語

    一项针对 Claude 和 GPT 的预注册研究表明，先生成候选假设再独立调用筛选的两阶段方法，可显著提升 Sonnet 在 NAS-Bench-201 上的超额真实性且不降低查准率。该实验基于 NAS-Bench-201 与 HPOBench 精确查表验证假设真实性，并由 LLM 评审团评估非显而易见性。此外，针对 LLM 裁判优化框架虽能提高评分，却会导致生成器的查准率急剧下降。

  28. arXiv 机器学习37

    在 10 亿参数规模下连接奇异学习理论与机理可解释性中国語

    研究人员在 10 亿参数模型 Pythia-1B 上建立了奇异学习理论（SLT）与机理可解释性（MI）的直接对应关系，证明二者均取决于组件参数到预测映射的导数。在 Dyck 括号匹配任务的全部 154 个检查点中，144 个组件的 Fisher 迹变化可追踪因果效应变化（中位数偏秩相关 0.51），且成对交互曲率能追踪联合消融交互。

  29. arXiv 机器学习34

    面向安全强化学习的结构化对偶自适应方法 SDLA中国語

    研究人员提出面向安全强化学习的结构化对偶自适应（SDLA），通过连续响应替代原对偶的 bang-bang 切换，并利用三分搜索计算乘子。在 OmniSafe 和 HASARD 基准上，结合 SDLA 的 PPO 与 SAC 改善了约束跟踪。其中 PPO-SDLA 在 HASARD 的 18 个设置中有 6 个平均奖励高于人类基准且满足代价预算，包括 4 个平均代价更低的设置。

  30. arXiv 机器学习38

    ECG2Gene：基于心电图深度学习的胚系肿瘤易感基因风险评估中国語

    深度学习框架 ECG2Gene 能够从常规 12 导联心电图提取胚系肿瘤易感数字表型，用于预测未来癌症风险。该框架针对 ATM、BRCA1 等 6 种基因变异生成评分，并通过 XGBoost 结合临床变量预测乳腺癌、卵巢癌和前列腺癌，在 UK Biobank 中的最佳 AUROC 分别达到 0.683、0.633 和 0.660。

  31. arXiv 机器学习34

    稀疏自编码器（SAE）归因图由边界裕度决定中国語

    研究发现稀疏自编码器（SAE）的特征归因图主要由边界裕度决定，在 Pythia 模型的 TopK SAE 上将单特征置零有 0.74 以上的概率导致下层特征跨越截断阈值。相较于传统基于预先激活特征构建的图存在 0.247 以上的中位相对误差，将一阶变化计入预激活并重新排序的边界图在相同计算成本下将误差降至 0.033 以内。

  32. arXiv 机器学习40

    正交约束能否在球面优化之外提升语言模型训练？中国語

    一项基于 360M 至 3.1B 参数 LLM 及近 200B tokens 训练的研究表明，行间正交约束在球面优化之外无法提升预训练性能。在测试的 14 种变体中，每行单位球面优化已优于调优后的 Muon，进一步引入行正交不仅无额外增益且大分块更差；既往 5 项研究报告的提升实由数值精度或行范数控制等因素导致。

  34. arXiv 机器学习38

    TVP：推测解码中 TV 几乎就是全部所需中国語

    研究人员提出针对推测解码的 TVP 损失函数族，基于期望接受长度与全变差（TV）距离优化草稿模型。针对 TV 梯度消失等问题，TVP 通过幂参数在覆盖率与接受率目标间插值，在 3 种草稿架构和 3 种目标模型上均取得最高或并列最高接受长度。微调时 TVP 相比 CE 将接受长度提升 9.8%，较 DFlash2 提升 6.2% 至 12.9%。

  35. arXiv 机器学习34

    数据集不匹配对可验证奖励强化学习中的 GRPO 至关重要中国語

    针对源训练集与目标测试集分布不一致的问题，研究提出将目标端性能反馈引入 GRPO 的重加权采样方法 L2RR（learning-to-reweight rollout）。该方法通过双层优化目标学习源提示词的离散采样分布，在最大化保留目标集准确率的同时惩罚增量信息较低的采样。在 6 个数学推理基准和 3 种模型规模上的实验表明，L2RR 提升了目标域性能并提高了采样效率。

  36. arXiv 机器学习36

    Transformer 注意力机制的锥规划认证中国語

    研究提出针对 Transformer 注意力机制的锥规划认证理论，解决了输入扰动下注意力头输出界限松紧度缺乏保证的问题。该方法证明认证难点在于 query 与 key 的双线性交互，并利用指数锥矩松弛实现误差关于扰动半径呈二次方有界的认证。在 GPT-2 上的实验表明，该认证在每个注意力头上均比线性界传播更紧，并达到预测的二阶精度。

  37. arXiv 机器学习32

    预算受限风险监控中免费协变量的一阶价值中国語

    研究证明在预算受限的风险监控中，仅依赖历史标签的规则存在一阶最坏延迟下界，而利用免费输入协变量触发打标可将延迟降至 $\log A/h(r)$，节省至少 $1/b$ 轮时间。针对输入未发生改变的风险上升，研究提出了引入标签历史回退的混合规则，并在合成数据与两项 ACS 任务上得到验证。不过该机制存在代价，良性输入偏移可能导致其请求几乎所有标签。

  38. arXiv 机器学习34

    TabAbax：表格基础模型技术报告中国語

    表格基础模型 TabAbax 基于 TabICLv2 构建，通过优化合成预训练先验与两轮行列编码器，显著提升了上下文预测性能。在 TabArena 回归基准中该模型达到 2,024 Elo（在 99 种方法中排第 7，比 TabICLv2 高 336 Elo），在 BeyondArena 达到 1,238 Elo。消融实验证实，仅改进合成先验就在回归任务中带来 +228 Elo 提升。

  39. arXiv 机器学习47

    从数周缩减至数小时：推理 LLM 的快速 SFT 数据生成方法中国語

    研究人员提出 SFTProbe，通过评估推理轨迹 5% 的 loss 预测数据质量，将推理 LLM 的 SFT 数据整理时间从数周缩减至数小时。在数学推理任务中，该方法生成的 5k 样本性能媲美 OpenThoughts-Math 的 89k 筛选样本，7.5k 样本准确率高出 2.5%。团队已开源相关代码及物理推理数据集，其训练的模型表现超越了 IPhO 2025 银牌模型。

  40. arXiv 机器学习31

    空间协作何时有效？去中心化在线频谱异常学习中的污染机制中国語

    去中心化在线频谱异常学习中空间协作存在污染扩散风险，研究表明无防御时模型污染扩散由占用率决定且与接收器间相关性无关。空间融合的收益高度依赖跨接收器相关性与检测器工作点，协作既可能提升也可能劣化检测性能。针对碎片化传输规避平滑统计门控的漏洞，结合时间平滑门控与单样本门控可显著提升对间歇性污染的鲁棒性。