arXiv 机器学习· Ebonye Smith, Aidan Andrews, Phoenix Wilson, Alexis Frias, Ayush Pandey, Gireeja Ranade·· 8 時間前AI スコア35
Transformer 如何在上下文中实现低层级控制
How do Transformers Perform Low-Level Control In-Context?
未翻訳のため中国語で表示しています。
AI ガイド
研究人员基于多头 GPT-2 架构，探索了 Transformer 仅依靠无外力系统动力学轨迹作为上下文、在未知系统具体参数下对不稳定非线性动力系统进行低层级控制的可行性。在倒立摆和两连杆机器人系统上的测试表明，模型在推理阶段无需专家控制器轨迹即可完成控制，其策略性能随上下文长度增加而提升，并具备稳定分布外系统的泛化能力。
出典：arXiv 机器学习 · arxiv.org