学者揭示模加法Transformer傅里叶电路非共形畸变特征
Start here
2026年11月3日,arXiv发布的人工智能研究指出,单层Transformer模加法傅里叶电路在训练后呈现非共形畸变与局部定向反转,而非此前设想的理想共形映射。测试显示,在5个关键频率下,表征畸变的Beltrami系数中位数从初始化的0.939下降至训练后的0.390,各频率具体分布在0.304至0.446之间。此外,畸变的大幅下降主要发生在电路形成之前,且该指标与单个输入的正确logit裕度关联微弱($|\rho|\le 0.026$)。
AI-generated from reports · Updated 13 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 人工智能模加法 Transformer 傅里叶电路中的非共形畸变与局部定向反转
研究表明单层 Transformer 模加法傅里叶电路在训练后呈现非共形畸变与局部定向反转,而非理想共形映射。在 5 个关键频率下,Beltrami 系数中位数从初始化的 0.939 降至训练后的 0.390(各频率为 0.304–0.446)。畸变的大幅下降主要发生在电路形成之前,且与单个输入的正确 logit 裕度关联微弱($|\rho|\le 0.026$)。
Story heat trend
Current heat 6·Comparable peak 9(Nov 3 18:00)·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.