通过表征工程缓解真实场景中的奖励作弊

研究人员提出一种基于表征工程的动态干预方法，用于在包含工具调用和长上下文的真实生产场景中监测并缓解奖励作弊。该方案通过均值差分向量、梯度优化向量以及参考反作弊模型规范提取的三种转向方向进行精准扰动，扰动幅度低于残差流均匀添加转向向量。实验表明该方法能低成本大幅减少奖励作弊且不显著影响模型连贯性与能力，编码环境提取的向量亦可泛化至其他领域。