arXiv 自然语言处理· Shivam Mathur, Sri Harish Popuri, Priya Krishnan Sundararajan, Kevin Horecka, Michael Mugo·· 4 小时前AI 评分27
两全其美：微调小模型与 LLM 互补兼顾成本与性能
Best of Both Worlds: Fine-Tuned Small Models Complement LLMs for Cost and Performance Benefits
AI 导读
研究对比了微调 RoBERTa 模型与开箱即用的 GPT-3.5 在 16 分类文本任务中的成本与性能权衡。微调 RoBERTa 的 F1 得分达到 96%，在 T4 GPU 上处理 10,000 条记录仅耗时 12 分钟，均优于单用 GPT-3.5 的 83% 与 6 小时。两者集成的最佳方案可将 F1 得分提升至 97.5%，且推理成本仅为单用 GPT-3.5 的 4.4%。
来源：arXiv 自然语言处理 · arxiv.org