Skip to content
arXiv 机器学习· Haaris Mian, Miles Cranmer, Alessandro Favero, Payel Mukhopadhyay·· 16 hours agoAI score36

物理基础模型 Walrus-1.3B 在 Sim-to-Real 迁移中如何发生遗忘

Frozen in Time: How a Physics Foundation Model Forgets Under Sim-to-Real Adaptation

Not yet translated; shown in Chinese.

AI guide

研究表明连续介质动力学基础模型 Walrus-1.3B 在 sim-to-real 迁移微调中会遭遇严重的灾难性遗忘。在圆柱绕流仿真上微调仅 20 个 epoch 后,其预训练任务单步误差最高增加 35 倍,适应真实数据后仿真性能进一步受损。在真实数据微调时仅需重放 1% 的仿真数据,即可在适应真实实验动态的同时恢复大部分仿真性能。

Source:arXiv 机器学习 · arxiv.org