arXiv 人工智能· Siyuan Li, Haoxuan Zeng, Xin Luo, Fernando Jia, Florence Li, Zhengyang Geng, Zico Kolter, Tai Sing Lee, Tianqin Li·· 2 天前AI 评分39
Witness Overlap:开源权重模型家族的有向溯源方法
Witeness Overlap: Directional Provenance Inside Open-Weight Model Families
AI 导读
研究者提出无需提示词和训练的白盒有向溯源方法 Witness Overlap,通过引入同家族第三个检查点作为见证者比较局部几何特征,用于判定开源权重模型检查点之间的衍生先后顺序。在 16 个家族的 176 个 LLM 检查点评测中,该测试利用 Frobenius 余弦正确判定了 95.3% 的父子关系方向。该方法还可泛化至 VLM 与扩散模型家族,且对权重噪声和稀疏剪枝表现出鲁棒性。
来源:arXiv 人工智能 · arxiv.org