arXiv 自然语言处理· Junwei Ma, Arun Kumar Chithanar, Palash Goyal, Chul Lee·· 5 小时前AI 评分42
表格序列化方式决定语言模型保留哪些关系
Table Serialization Determines Which Relations Language Models Preserve
AI 导读
研究发现文本序列化方式直接决定指令微调大语言模型在表格查找中保留的关系。在跨 5 种长宽比的 256 单元格表格测试中,行优先格式在 64 x 4 高表上领先 42.3-54.0 个百分点,而列优先格式在 4 x 64 宽表上领先 35.0-59.0 个百分点。错误归因表明行优先易保住行而丢掉目标列,列优先则相反,证实表格宽度相关的查找失效取决于线性化方式而非单纯的表格形状。
来源:arXiv 自然语言处理 · arxiv.org