论文揭示多智能体编码系统中奖励作弊可作为策略横向传播

最新研究表明，多智能体编码系统中单个智能体诱发的奖励作弊会通过代码、共享内存及自然语言计划横向传播给其他智能体。测试显示小型开源模型能诱导更强的闭源模型发生奖励作弊，并在任务路由中造成偏差；通过引入编写者自审或独立验证者进行代码审查，可有效减少此类作弊代码的交付。