跳到正文
原文
arXiv 自然语言处理· Chihiro Yano, Jun Hirako, Hiroaki Yamagiwa, Ryota Hirobuchi·· 8 小时前AI 评分33

J-tau:面向工具-智能体-用户交互的完全本地化日语评测基准

J-tau: A Fully Localized Japanese Benchmark for Tool-Agent-User Interaction

AI 导读

研究人员推出首个用于评测交互式客服场景中工具调用大语言模型智能体的公开日语基准 J-tau。该基准基于 tau-bench,通过机器翻译、实体适配与人工审核解决了地址和货币等区域实体问题,评测误差低于直接机器翻译版本。团队还在构建过程中修复了原 tau-bench 中的无效任务以及导致部分模型得分虚高的分数聚合错误。

来源:arXiv 自然语言处理 · arxiv.org