安全探针的缩放定律

研究发现大语言模型安全探针误差遵循两条缩放定律，最低误差随模型规模呈幂律下降，且随标注样本数增加而逼近下限。基于 5 个模型族共 20 个基座模型的评测显示，该定律在 72% 的情况下可将下一更大模型的探针误差预测在 0.02 以内。此外，它还能在 73% 的情况下准确判断通过增加标注还是增大模型达成目标误差的成本更低。