学者提出COMPREHEND细粒度基准分析方法并开源代码
Start here
2026年11月4日,arXiv自然语言处理领域发布研究提出COMPREHEND方法。该方法通过构建超细粒度蕴含层次结构,用完整句子替代聚类名称,以精准解析提示词分布及大语言模型的弱点。在WildBench评测实验中,相比EvalTree,COMPREHEND将蕴含/忠实度指标从22.6提升至41.7,信息量指标从16.3提升至39.1。此外,该方法生成的缺陷报告能更有效地预测基准响应得分。目前,该研究的全部代码已开源。
AI-generated from reports · Updated 10 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理COMPREHEND:通过蕴含层次结构实现超细粒度基准评测理解
COMPREHEND 提出通过构建超细粒度蕴含层次结构,用完整句子替代聚类名称来精准解析提示词分布与大语言模型弱点。在 WildBench 评测中,相比 EvalTree,该方法将蕴含/忠实度指标从 22.6 提升至 41.7,信息量指标从 16.3 提升至 39.1。其生成的缺陷报告能更有效预测基准响应得分,全部代码已开源。
Story heat trend
Current heat 8·Comparable peak 10(Nov 4 14:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.