跳到正文
原文
Hacker News · AI· fruiapps·· 2 小时前精选AI 评分71

开源大语言模型分类器 SCM 训练中 48 项失败实验复盘

Hypotheses failures while training an LLM classifier

AI 导读

开源分类模型项目 SCM 公开记录了基于 Qwen3 训练分类器时的 48 项失败实验数据,发现盲目扩充通用数据、先验去偏、保形预测保证以及模型蒸馏在未知工作流中普遍失效,仅增大模型参数规模能稳定提升跨任务泛化能力。实验表明未知任务的基线噪声约在 0.05 准确率,团队建议在调优前预先设定硬性准入规则并测量系统固有噪声,避免无效迭代。

推荐理由

文章详细公开了分类器调优中被量化证伪的数十种路线,为避免同类工程试错提供了具体参考。

来源:Hacker News · AI · hitl.systems