跳到正文
原文
arXiv 人工智能· Shirley Anugrah Hayati, Patricia Anugrah Setiani, Ruizi Wang, Zhouyi Li, Khanh Chi Le, Young-Jun Lee, Dongyeop Kang·· 10 小时前AI 评分45

Kolab:长流程工作中人机协作评测基准

Kolab: Benchmarking Human-Agent Collaboration in Long-Horizon Workflows

AI 导读

研究人员推出人机协作评测数据集 Kolab,包含来自 40 个职业的 50 位专业人士在真实长流程任务中与 AI 智能体协作的 115+ 小时屏幕录像及质量评估。评测重点考察模型预测专家对其产出的采纳情况,以及评估协作满意度和输出质量的能力。测试显示前沿模型高估了与专家的协作表现,且更长的工作流上下文未能持续改善预测效果。

来源:arXiv 人工智能 · arxiv.org