arXiv 机器学习· Shuwei Wang, Vadim Bulitko, Matthew R. G. Brown, Michael Youngblood, Ramon Lawrence, Roscoe Smith, Shinichi Nakagawa, William Yeoh·· 4 小时前AI 评分33
利用 Transformer 通过神经 A-life 智能体的符号蒸馏实现教学与学习
Using Transformers for Teaching and Learning via Symbolic Distillation of Neural A-life Agents
AI 导读
研究提出利用预训练 Transformer 对神经人工生命（A-life）智能体进行符号蒸馏，以大幅加速紧凑符号策略的提炼并改善群体层面的学习。该方法采用在随机感知-动作数据上预训练、并通过神经架构搜索确定的 Transformer，解决了传统遗传算法搜索庞大策略空间时计算开销高的问题。实验对比了不同蒸馏方法，验证了符号空间通过自我反思和教学对群体动态的影响。
来源：arXiv 机器学习 · arxiv.org