arXiv 自然语言处理· Jiangang Chen·· 6 小时前AI 评分39
Lingtai：概念几何揭示的大语言模型推理特征分析
Lingtai: What Concept Geometry Reveals--and Does Not Reveal--About LLM Inference
AI 导读
研究提出无需训练的概念遥测层 Lingtai，在 LLM 推理时将残差状态投影到命名概念锚点库，生成每步概念坐标信号。该信号在代码生成与数学推理中与预测不确定性强相关，展现出任务特定的几何形态与轨迹特征，但未提供稳定的正确性坐标。在 161 个锚点的代码实现中，Lingtai 仅增加 0.7-1.6% 的逐 token 解码开销且不改变生成内容。
来源：arXiv 自然语言处理 · arxiv.org