研究提出自动发现具意外副作用训练数据方法

2026年11月5日，arXiv发表的一项研究提出了一种自动化发现具备意外副作用训练数据集（DSSEs）的方法，并据此构建了涵盖8种行为的6,575个数据集集合。该方法结合了大语言模型评估与进化、强化学习等技术，可生成外观与普通后训练数据相似、却能引发目标行为并让审计员感到意外的数据。实验结果显示，这些意外副作用能够跨模型族和尺寸泛化，且前沿模型在预测训练数据副作用上的表现已经超越了人类。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。