arXiv 人工智能· Shanfeng Huang, Zhou Fang, Song Xiao, Hai Du·· 1 天前AI 评分39
ALLOT:面向大语言模型知识更新的预算制混合内存路由框架
ALLOT: Budgeted Hybrid-Memory Routing for Knowledge Updates in LLMs
AI 导读
ALLOT 是一种面向大语言模型知识更新的混合内存路由框架,将学习到的写入优先级与硬性参数预算解耦,并在外部内存中保留所有事实。在 CounterFact 基准上,Qwen3-4B 在 20% 参数写入预算下达到 0.760 准确率,参数写入量比全量双写减少 80%。在 Qwen3-0.6B 上仅需 6-14.5% 的参数写入即可达到双写级准确率。
来源:arXiv 人工智能 · arxiv.org