arXiv 人工智能· Jing Ding, Ziqiao Ma, Jiayuan Mao, Joyce Chai, Freda Shi·· 1 天前AI 评分34
Vision Transformers 抽象概念落地的转喻回路研究
Metonymic Circuits for Abstract Concept Grounding in Vision Transformers
AI 导读
一项研究揭示了 Vision Transformers 落地抽象概念的转喻机制:模型通过具象可解释的锚点概念(如用“火”关联“愤怒”)连接视觉信号与抽象语义。研究者在 CLIP 和 DINO 视觉编码器上应用 Transcoders 追踪回路,发现感知基元主导早期层,且类物体锚点先于抽象目标出现。因果干预实验进一步证实转喻中间体在抽象概念识别中具有功能性作用。
来源:arXiv 人工智能 · arxiv.org