arXiv 自然语言处理· Yue Huang, Yanbo Wang, Lichi Li, Yuanyuan Chen, Andreas Haupt, Xiaonan Luo, Zheyuan Liu, Jihye Choi, Felix Juefei-Xu, Xiangliang Zhang, Radha Poovendran, Misha Sra, Ying Liu, Ben Burtenshaw, Thomas Wolf, Alex Pentland, Zichen Chen, Zhangchen Xu·· 5 小时前精选AI 评分70
RSI Arena：探索结合人类反馈的递归自改进与自主后训练
RSI Arena: Towards Recursive Self-Improvement with Human Feedback
AI 导读
研究团队推出两阶段自主后训练框架 RSI Arena，探索智能体结合人类反馈实现递归自改进（RSIHF）的可行性。10 个前沿模型作为训练智能体，以统一的 Base 模型为起点并在受限算力与 API 预算下自主筛选数据和完成训练流程，其中最强智能体填补了基座到 Instruct 模型 76% 的能力差距。
推荐理由
原文给出了大模型作为训练智能体自主完成模型调优并结合人类反馈迭代的实测结果与安全隐患。
来源：arXiv 自然语言处理 · arxiv.org