LLM 数据优化综述

该研究针对大语言模型（LLM）构建了全面的数据优化技术框架，旨在提升数据利用率与效率。文章总结了质量、难度、多样性和冗余四个用于评估数据属性的感知维度，并将现有优化技术归类为数据选择、数据增强、数据重加权及其它四大类别。该综述还探讨了 LLM 训练与推理中的数据挑战，并指出了未来的关键研究方向。