跳到正文
原文
arXiv 人工智能· Minhao Fan, Yinyi Liu, Jiayu Zhao, Zihan Teng, Song Chen, Weichen Liu·· 4 小时前AI 评分43

Harness Compilation:小型视觉语言模型应保留哪些决策?

Harness Compilation: Which Decisions Should a Small Vision-Language Model Keep?

AI 导读

研究人员提出 Harness Compilation(HC)离线方法,自适应划分冻结小型视觉语言模型(至多 9B 参数)与外部 harness 的任务分工,部署无需更新权重或调用教师模型。在 7 个视觉问答测试中,HC 相比基准裸模型将得分平均提升 9.9-23.9 分。此外,仅用 100 个练习样本,HC 便在 3 项任务上超越了仅针对答案的 LoRA 微调。

来源:arXiv 人工智能 · arxiv.org