研究提出自动发现具意外副作用训练数据方法
Start here
2026年11月5日，arXiv发表的一项研究提出了一种自动化发现具备意外副作用训练数据集（DSSEs）的方法，并据此构建了涵盖8种行为的6,575个数据集集合。该方法结合了大语言模型评估与进化、强化学习等技术，可生成外观与普通后训练数据相似、却能引发目标行为并让审计员感到意外的数据。实验结果显示，这些意外副作用能够跨模型族和尺寸泛化，且前沿模型在预测训练数据副作用上的表现已经超越了人类。
AI-generated from reports · Updated 3 hours ago
Report timeline
Follow the reports to see different sides of the story.
- arXiv 自然语言处理论文提出自动化挖掘具有意外副作用的训练数据方法
论文提出一种自动化发现具备意外副作用的训练数据集（DSSEs）的方法，并构建了涵盖 8 种行为的 6,575 个数据集集合。该方法利用 LLM 评估与进化、强化学习等技术，生成表面类似普通后训练数据但能引发目标行为且让审计员意外的数据。实验显示这些副作用可跨模型族和尺寸泛化，前沿模型在预测数据副作用上的表现超过了人类。
Story heat trend
Current heat 9·Comparable peak 10（Nov 5 14:00）·Comparable change, last 24 hours–
Trends compare only the same parties observed continuously, so the scope can be narrower than current heat counts. Move the pointer or tap the chart to see hourly heat; use the left and right arrow keys on a keyboard.