Skip to content
Hot storiesContinuously updated

研究团队提出几何感知大模型编辑框架GEdit

1 reports1 reporting sourcesUpdated 3 hours ago

Start here

AI overview

2026年11月5日,arXiv发表的一项研究显示,研究人员提出了大语言模型知识编辑框架 GEdit。该框架基于 LR+D 因子模型来捕捉 Transformer FFN 隐藏表示的低秩几何结构,不仅能对核心知识子空间提供定向保护,还可按照单次编辑的难度动态调整正则化强度。在 GPT2-XL、GPT-J 以及 LLaMA-3-8B 上的实验表明,在多达 10,000 次连续知识更新的场景下,GEdit 的编辑成功率与知识保留能力均显著优于现有基线方法。

AI-generated from reports · Updated 2 hours ago

Report timeline

Follow the reports to see different sides of the story.

Nov 5
  1. arXiv 自然语言处理
    利用几何感知正则化编辑大语言模型

    研究人员提出大语言模型知识编辑框架 GEdit,基于 LR+D 因子模型捕捉 Transformer FFN 隐藏表示的低秩几何结构。该框架提供核心知识子空间定向保护,并按单次编辑难度动态调整正则化强度。在 GPT2-XL、GPT-J 和 LLaMA-3-8B 的实验显示,GEdit 在多达 10,000 次连续更新下,编辑成功率与知识保留均显著优于现有基线。

Story heat trend

Not enough continuous data yet to draw a trend.