利用最小风险训练增强小型语言模型生成停电报告
研究人员将最小风险训练(MRT)应用于全国停电数据倡议(ODIN)的停电报告生成任务。不同于传统仅依赖词元级最大似然目标的方法,MRT使模型能够直接针对序列级评估指标进行优化。该方法将异构停电报告转化为符合CIM IEC 61968-3标准的规范XML格式,显著提升了Qwen2.5-7B等小型语言模型在垂直结构化报告生成任务中的准确性与可用性。
研究人员将最小风险训练(MRT)应用于全国停电数据倡议(ODIN)的停电报告生成任务。不同于传统仅依赖词元级最大似然目标的方法,MRT使模型能够直接针对序列级评估指标进行优化。该方法将异构停电报告转化为符合CIM IEC 61968-3标准的规范XML格式,显著提升了Qwen2.5-7B等小型语言模型在垂直结构化报告生成任务中的准确性与可用性。
随着计算机使用智能体(CUA)日益广泛地代表用户执行在线操作,当所处环境的利益激励与用户目标不一致(如电商平台倾向于推荐特定商品而诱导智能体偏离目标)时,智能体表现面临新挑战。现有基准多局限于合作场景或显式攻击,忽略了环境自身存在利益诉求的情况。为此,研究团队推出了受控基准测试 CAVEAT,涵盖 9 个市场环境及相关分类法,专门评估智能体在利益错位环境下的目标坚守能力。
针对长流程大语言模型智能体积累海量交互历史带来的效率挑战,现有压缩策略通常独立评估单条记录,忽略了组合删除所引起的冗余或累积信息损失。为此,研究团队提出了直接关系集合风险修剪(DRSR)框架。该方法将智能体历史上下文压缩建模为基于删除集合的风险约束选择问题,从集合层面综合评估删除风险与保留信息,在保障决策安全与任务表现的前提下,实现了长程智能体的高效修剪。
该研究针对通过调用外部工具回答分析问题的时间序列智能体,指出了传统人工预设工具配置的缺陷:一是人机工具不匹配,专家挑选的工具库可能在特定任务中降低异常检测准确率;二是隐性损害,常规自我修正可能在微弱提升总体评分的同时破坏原有的正确答案。论文指出工具的有效性需在运行时根据具体问题动态决定,并提出了故障驱动的智能体自我演化方案。
长期与用户交互的智能体需要准确召回事实、偏好和事件等信息,但现有记忆系统常将其压缩为通用摘要或检索无标签文本块,难以精准识别实体属性及支撑依据。研究人员提出了EnSIMem,一种面向智能体的实体结构化长期记忆架构。该系统在离线阶段将历史交互组织为主题连贯的情节片段,并构建基于对话的实体索引条目,以提升长上下文对话中智能体记忆检索与推理的准确性。
在执行长程任务时,智能体会持续积累交互历史,而既有上下文管理方法多依赖固定窗口或即时相关性,难以判断历史交互何时可安全替换。过早压缩易导致未来关键信息丢失,过度保留又会带来巨大的上下文开销。为此,该研究提出了状态条件压缩框架StateComp,旨在根据智能体的状态演变动态学习何时适合压缩历史,在降低上下文负载的同时保留关键信息(注:原文摘要末尾内容有所截断)。
针对图形用户界面(GUI)智能体在执行复杂软件指令时所需的分步推理与长程记忆能力,研究团队探索了在线自蒸馏(OPSD)技术的应用。现有OPSD方法虽在GUI定位等基础任务上表现优异,但在向多轮交互场景扩展时受限于自教师模型的特权机制(原摘要末尾存在信息截断)。该研究旨在通过从自身交互中学习,改进自蒸馏机制以提升多轮GUI智能体的决策执行效果。
随着大语言模型智能体处理长程任务的需求增加,扩展其强化学习训练亟需多样化环境与可靠奖励信号。针对现有生成管道在环境动态与事后评估对齐上的缺陷,研究提出VHD-Play框架。该方法颠倒了传统的构建依赖关系,首先对数学模型进行采样与求解,再通过基于语料的设置器将其决策过程渲染为具备状态的可执行工具环境,为智能体强化学习提供了低成本、可验证的交互环境生成方案。
针对大模型智能体在重用历史经验时普遍采用的“写入时整理”局限,该研究分析了传统方法在任务完成时过早将轨迹蒸馏为固定形式(如反思、工作流或策略)所带来的信息不可逆丢失问题。传统做法在未知未来查询的情况下生成静态摘要,难以适配多样化的下游任务。为此,论文探索了即时自适应记忆构建机制,提升智能体记忆提取与任务匹配的灵活性。
真实环境下的分子设计对大语言模型智能体提出了极高要求,需要其理解复杂上下文、满足多重约束并进行多步工具推理。针对现有基准偏向狭窄约束和单一路径的问题,研究人员提出了MolDesignBench。该基准紧密贴合实际分子设计场景,可系统评估工具增强型LLM智能体在处理多约束、不可行规范识别及多步工具调用下的综合推理与设计能力。
为解决长期人机交互中数字存在的身份连续性与个性化发展问题,研究人员提出了基于心理学理论的操作系统 Emergi-PersonaOS。该系统旨在对人格化智能体全生命周期进行管理,通过构建涵盖倾向性特质、情境适应特征和叙事认同的三层架构,实现智能体在动态情境下的自适应与可控演化,为人机共生交互提供了新型计算架构支撑。