Hacker News · AI· fruiapps·· 2 小时前精选AI 评分71
开源大语言模型分类器 SCM 训练中 48 项失败实验复盘
Hypotheses failures while training an LLM classifier
AI 导读
开源分类模型项目 SCM 公开记录了基于 Qwen3 训练分类器时的 48 项失败实验数据,发现盲目扩充通用数据、先验去偏、保形预测保证以及模型蒸馏在未知工作流中普遍失效,仅增大模型参数规模能稳定提升跨任务泛化能力。实验表明未知任务的基线噪声约在 0.05 准确率,团队建议在调优前预先设定硬性准入规则并测量系统固有噪声,避免无效迭代。
推荐理由
文章详细公开了分类器调优中被量化证伪的数十种路线,为避免同类工程试错提供了具体参考。
来源:Hacker News · AI · hitl.systems