arXiv 机器学习· Zhang Yanhai·· 1 天前AI 评分34
在静默自由度中回放:无需离线阶段的持续学习
Replay in the Silent Degrees of Freedom: Continual Learning Without an Offline Phase
AI 导读
研究人员提出一种在静默自由度中回放的机制,通过隔离规则将更新限制在当前输入未激活的隐藏突触中,实现无离线阶段的持续学习。在类增量 split-MNIST 评测中,系统在无离线阶段下达 91.6±0.3% 准确率,单次遍历以 91.8% 超过 DER++(90.1%)。该机制引入不应期旋转规则扩大巩固集合,亦适用于带 k-WTA 隐藏层的反向传播网络。
来源:arXiv 机器学习 · arxiv.org