arXiv 自然语言处理· Yaowen Ye, Jacob Steinhardt, Sarah Schwettmann, Cassidy Laidlaw·· 4 hours agoAI score57
论文提出自动化挖掘具有意外副作用的训练数据方法
Mass Producing Training Data with Surprising Side Effects
Not yet translated; shown in Chinese.
AI guide
论文提出一种自动化发现具备意外副作用的训练数据集（DSSEs）的方法，并构建了涵盖 8 种行为的 6,575 个数据集集合。该方法利用 LLM 评估与进化、强化学习等技术，生成表面类似普通后训练数据但能引发目标行为且让审计员意外的数据。实验显示这些副作用可跨模型族和尺寸泛化，前沿模型在预测数据副作用上的表现超过了人类。
Source:arXiv 自然语言处理 · arxiv.org