arXiv 人工智能· Hyojung Han, Ryangkyung Kang, Youngeun Kim, Seung-Hun Jeon·· 4 小时前AI 评分37
PTQ 校准何时有益何时有害：量化文本嵌入模型中的剂量驱动崩溃与验证门控弃权
When PTQ Calibration Helps or Hurts: Dose-Driven Collapse and Validation-Gated Abstention in Quantized Text Embedders
AI 导读
研究发现对 e5-base-v2、BGE-M3 与 EmbeddingGemma-300m 进行 4-bit 权重 PTQ 校准时，固定流程的效果可从微增到严重崩溃，主要受更新剂量驱使；在 EmbeddingGemma 上相同学习率网格导致 NDCG@10 出现 +1.47 至 -71.53 的变化。
来源：arXiv 人工智能 · arxiv.org