研究对比LLM与人类在代词消歧表现,模型超人类多数投票
Start here
2026年11月4日,arXiv发布一项关于LLM与人类在代词“they”单复数消歧任务上的对比研究。该研究对比了73位人类标注员与40多种LLM配置对174个Reddit真实用例的标注表现。结果显示,表现最佳的LLM模型Kimi K3准确率达到94.5%,超过了人类多数投票的结果(86.2%),在所有测试对象中仅次于单一最高分人类标注员(95.7%)。目前,包含金标准标签的数据集、标注记录与可复现代码已在公共仓库完全开源。
AI-generated from reports · Updated 5 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理LLM 与人类在代词“they”数消歧任务上的对比研究
在代词“they”单复数消歧标注任务中,表现最佳的 LLM 模型 Kimi K3 达到 94.5% 准确率,超过人类多数投票结果(86.2%)。该研究对比了 73 位人类标注员与 40 多种 LLM 配置对 174 个 Reddit 真实用例的标注,仅单一最高分人类标注员(95.7%)高于该模型。包含金标准标签的数据集、标注记录与可复现代码已在公共仓库完全开源。
Story heat trend
Current heat 9·Comparable peak 10(Nov 4 14:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.