动态张量重计算为何遭遇内存增加反失败：隐藏的可行性空洞研究

研究人员通过 DTR 参考模拟器 simrd 重放公开训练轨迹，发现动态张量重计算（DTR）存在内存预算增加反而出现 OOM 的“可行性空洞”非单调现象。更精细的采样在 InceptionV4、U-Net 以及 ResNet-32 开发轨迹上均复现了该空洞，测试的两种简单评分改动也未能消除此类失败。所有结果均来自模拟器实验，未包含内存分配器模型且尚未在 GPU 硬件上进行测试。