arXiv 机器学习· Zelin Zhao (Georgia Institute of Technology), Xinyu Guo (Georgia Institute of Technology), Jingyuan Zhang (Georgia Institute of Technology), Yuxuan Zhang (Etude AI), Yongxin Chen (Georgia Institute of Technology)·· 4 小时前AI 评分52
论文提出 LAM 框架量化大语言模型智能体运行机制的计算成本
Harnessing LLMs as Agents: What Does It Cost?
AI 导读
佐治亚理工学院等机构提出大语言模型智能体机器（LAM）抽象框架，用于量化管理有限上下文、持久内存、工具与验证等 Agent 框架所消耗的计算与通信资源。研究在通信 I/O 下界、随机与顺序内存访问渐近差距、避免重计算的状态存储容量以及闭式最优验证间隔等四个维度推导了理论界限。团队在 GPT-6 Astra 上开展了实验，验证了关于检查点优化、调用粒度与可靠性权衡等理论预测。
来源：arXiv 机器学习 · arxiv.org