arXiv 自然语言处理· Tao Feng, Pengrui Han, Zhongjie Dai, Jiaxuan You·· 3 小时前AI 评分44
用深度学习方法构建 LLM 智能体系统:从模块化设计到架构搜索
Building LLM Agent Systems the Deep Learning Way: From Modular Design to Architecture Search
AI 导读
研究提出一种借鉴深度学习方法构建 LLM 智能体系统的方案,将检索、记忆和提示策略等模块化,并设计了前向推理与反馈机制。该方案将提示词视作模型权重并通过类似反向传播的机制自动优化,实现了至少 5% 的性能提升。此外,引入类似神经架构搜索(NAS)的算法寻找最优配置,相比随机设计的架构性能提升了 11%。
来源:arXiv 自然语言处理 · arxiv.org