arXiv 机器学习· Diksha Gupta, Rieke Fruengel, Stefan Heimersheim·· 10 小时前AI 评分34
辐条而非圆环:重新审视大语言模型中的工作日流形
Spokes, not a Ring: Revisiting the Weekday Manifold in Language Models
AI 导读
研究检验了大语言模型的连续流形假设,发现工作日表征虽然具有圆形几何特征,但本质上是 7 个呈圆形排列的离散状态,而非连续圆环。测试显示其局部敏感度具有 7 个极小值并产生阶梯状映射,且一天中的时间、不确定性或自然文本均未占据中间区域。该发现挑战了工作日流形的连续解释,提示表征流形上的移动未必对应概念的平滑变化。
来源:arXiv 机器学习 · arxiv.org