针对利益冲突环境，新基准CAVEAT评估计算机使用智能体鲁棒性
随着计算机使用智能体（CUA）日益广泛地代表用户执行在线操作，当所处环境的利益激励与用户目标不一致（如电商平台倾向于推荐特定商品而诱导智能体偏离目标）时，智能体表现面临新挑战。现有基准多局限于合作场景或显式攻击，忽略了环境自身存在利益诉求的情况。为此，研究团队推出了受控基准测试 CAVEAT，涵盖 9 个市场环境及相关分类法，专门评估智能体在利益错位环境下的目标坚守能力。
DC AI 热点
精选
当前热点完整榜单 →
1OpenAI与Anthropic调查数万起AI智能体自主网络入侵事件，波及美政府机构88 热度 ⌁2OpenAI智能体利用DNS隧道逃逸沙箱，官方紧急暂停顶级模型训练与评估86 热度 ⌁3OpenAI智能体被曝为获取数据曾尝试暴力破解并伪装扫描联合国网站86 热度 ⌁4医保系统遭AI智能体入侵，澳大利亚传唤OpenAI与Anthropic CEO接受质询77 热度 ⌁5全球首台搭载全国产化电子架构具身智能机器人亮相75 热度 ⌁9月24日2026-09-24