Google Research·· 5 小时前AI 评分58
Google 提出持续学习 Sleep 框架:通过活跃交互与离线睡眠巩固模型长效记忆
The sleep framework: A new way for LLMs to retain knowledge in continual learning
AI 导读
Google 联合康奈尔大学等提出用于大语言模型持续学习的 Sleep 框架,通过让模型在活跃交互与离线睡眠阶段之间交替,将短期上下文信息转化为稳定长效参数并克服灾难性遗忘。
来源:Google Research · research.google