arXiv 机器学习· Aniket Srinivasan Ashok (University of Waterloo)·· 10 小时前AI 评分37
ULPack：基于参考条件的检查点轨迹无损压缩
ULPack: Reference-Conditioned Lossless Compression of Checkpoint Trajectories
AI 导读
研究人员提出模型检查点轨迹无损编解码器 ULPack，利用参考权重的阶码对有序整数残差熵模型进行条件化，以降低模型训练检查点的存储开销。在 bfloat16、float16 和 float32 轨迹测试中，ULPack 相比 ZipNN 存储最高减少 27%，相比 zstd-19 减少 21%，相比 FM-Delta 减少 11.5%。
来源：arXiv 机器学习 · arxiv.org