arXiv 自然语言处理· Ziyi Zhang, Shuang Cui, Haotian Zhang, Xiaoyu Wang·· 2 天前AI 评分35
PC-SubMax：基于正则化次模最大化的高效提示词压缩
PC-SubMax: Efficient Prompt Compression via Regularized Submodular Maximization
AI 导读
PC-SubMax 提出了一种将选择性提示词压缩建模为正则化次模最大化的框架，以缓解长上下文推理的高延迟与句子冗余问题。该框架综合评估信息覆盖度、查询相关性与多样性并计入 token 成本，借助配套的 RGM 算法和编码器表征避免了自回归 LLM 打分开销。实验在 7 个基准测试中验证了其低压缩开销与具有竞争力的下游性能。
来源：arXiv 自然语言处理 · arxiv.org