跳到正文
原文
arXiv 人工智能· Shivesh Rane·· 11 小时前AI 评分36

LoRA 微调的嵌入空间指纹识别:仅凭模型工件恢复训练数据领域

Embedding-Space Fingerprinting of LoRA Fine-Tunes: Recovering the Training-Data Domain from the Model Artifact Alone

AI 导读

最新研究基于 Qwen3.5-0.8B 模型发现,仅凭微调产出的模型工件即可有效识别 LoRA 的训练数据领域。在 5 个领域的评测中,灰盒激活值与黑盒生成文本的领域识别准确率分别达 61% 和 64%,白盒权重统计达 42%,均高于 20% 的随机基线。该黑盒结果无需 token 概率且不受 LoRA 秩(8-64)影响,相关代码与特征向量已开源。

来源:arXiv 人工智能 · arxiv.org