Hot storiesContinuously updated
研究人员提出端侧VLM压缩框架UniCompress
1 reports1 reporting sourcesUpdated 2 hours ago
Start here
AI overview
2026年11月5日,arXiv发表关于端侧视觉语言模型(VLM)压缩框架UniCompress的研究成果。该框架旨在将多任务Multi-LoRA专家转换为单个无adapter紧凑模型,以面向边缘智能部署。实验以BF16精度的Qwen3-VL-4B为教师模型,构建了非对称INT2学生模型,成功将权重存储从8.9 GB压缩约76%至2.1 GB。在四个具身任务评测中,该模型的宏任务得分比GPTQ-INT2提升了34.3个百分点,与BF16教师模型的差距保持在0.9个百分点以内。
AI-generated from reports · Updated 2 hours ago
Latest developmentsNov 5 13:00
UniCompress将多LoRA压缩为单个INT2模型,存储降76%且性能接近BF16教师模型。Report timeline
Follow the reports to see different sides of the story.
Nov 5
- arXiv 人工智能UniCompress:将多 LoRA 专家压缩为面向边缘智能的单个紧凑模型
UniCompress 提出了一种将多任务 Multi-LoRA 专家转换为单个无 adapter 紧凑模型的部署框架。该方法以 BF16 Qwen3-VL-4B 为教师模型构建非对称 INT2 学生模型,将权重存储从 8.9 GB 压缩约 76% 至 2.1 GB。在四个具身任务上,其宏任务得分比 GPTQ-INT2 提升 34.3 个百分点,与 BF16 教师模型差距在 0.9 个百分点内。
Story heat trend
Not enough continuous data yet to draw a trend.