arXiv 机器学习· Ebonye Smith, Aidan Andrews, Phoenix Wilson, Alexis Frias, Ayush Pandey, Gireeja Ranade·· 8 hours agoAI score35
Transformer 如何在上下文中实现低层级控制
How do Transformers Perform Low-Level Control In-Context?
Not yet translated; shown in Chinese.
AI guide
研究人员基于多头 GPT-2 架构，探索了 Transformer 仅依靠无外力系统动力学轨迹作为上下文、在未知系统具体参数下对不稳定非线性动力系统进行低层级控制的可行性。在倒立摆和两连杆机器人系统上的测试表明，模型在推理阶段无需专家控制器轨迹即可完成控制，其策略性能随上下文长度增加而提升，并具备稳定分布外系统的泛化能力。
Source:arXiv 机器学习 · arxiv.org