Hacker News · AI· nico·· 2 小时前精选AI 评分66
大语言模型做文本分类或大材小用:冻结嵌入向量配合逻辑回归实测准确率达 94.3%
Your LLM is probably overkill for text classification
AI 导读
在 77 类客户意图数据集 banking77 的实测对比中,采用冻结句子嵌入向量(BGE-large)加逻辑回归分类头达到了 94.3% 的准确率和 118ms 延迟,而表现最佳的 14B 参数大语言模型仅取得 68% 准确率且耗时达 15.4 秒。
推荐理由
评测给出了嵌入向量分类器与大语言模型在多分类任务上的精度与时延对比,为分类场景落地提供了实用的低成本选型参考。
来源:Hacker News · AI · jeffyclassify.com