arXiv 人工智能· Youwei Bao, Chengpeng Wang, Simin Chen·· 5 小时前AI 评分38
在智能体内核生成中强制保障批次不变性
God Does Not Play Dice: Enforcing Batch Invariance in Agentic Kernel Generation
AI 导读
研究人员提出一种在智能体内核生成中保障批次不变性(BI)的插件方案,解决大语言模型(LLM)服务因动态批处理导致输出不一致的问题。该方案结合静态依赖分析与动态按位一致性验证,在优化循环中拦截风险候选内核。在 3 个智能体框架上的实验显示,其将 BI 通过率从 67.6% 提升至 91.9%,同时保留了 91.8% 的基准几何平均加速比。
来源:arXiv 人工智能 · arxiv.org