Hacker News · AI· Corbenic·· 4 小时前AI 评分56
arXiv 论文提出 galahad-kv 记忆层：利用 NVMe 缓存实现 5000 万 token 状态复用
Long-Term Memory for AI:50M-Token Window,Is Faster,Cheaper Than Recompute
AI 导读
研究团队测试了一种名为 galahad-kv 的记忆层方案，将约 16,000 token 的 KV 状态分块保存至加密本地 NVMe 硬盘，使用时直接精确加载以避免重算。
来源：Hacker News · AI · arxiv.org