arXiv 自然语言处理· Vaibhav Prajapati, Pushp Garg·· 7 小时前AI 评分39
个性化会破坏信任吗？少样本端侧意图适配下的开集拒识校准研究
Does Personalization Break Trust? Open-Set Rejection Calibration Under Few-Shot On-Device Intent Adaptation
AI 导读
研究发现虚拟助手通过少样本 LoRA 进行端侧个性化微调时，会导致 5 个公开意图分类基准上的域外（OOS）拒识 AUROC 平均下降 0.055 到 0.258。该问题源于已知意图区域周围的嵌入边界收缩。在无需额外训练的情况下，改用马氏距离（Mahalanobis distance）替代 softmax 置信度评分，可在 3 个数据集上恢复大部分拒识表现且不损失域内准确率。
来源：arXiv 自然语言处理 · arxiv.org