arXiv 机器学习· Xingyu Zhao, Yiqiao Zhong·· 5 小时前AI 评分43
潜意识学习中的跨特征迁移研究
Cross-Trait Transfer in Subliminal Learning
AI 导读
大语言模型在潜意识学习中存在跨特征迁移现象,即学生模型通过教师模型语义无关的数据训练时,会衍生出与教师相似但不同的特征偏好。研究提出了有向特征迁移矩阵来量化这一效应,并发现相关特征存在聚类结构。特征学习动态表现为从广泛的共享转变逐步演进为特定特征迁移,多特征实验表明对立特征会进一步强化这种分化。
来源:arXiv 机器学习 · arxiv.org