arXiv 机器学习· Vikram Krishnamurthy, Yiming Zhang, Luke Snow·· 5 時間前AI スコア33
生成式 AI 的随机动力学:从自回归模型到交互式 LLM 网络与神经 SDE
Stochastic Dynamics of Generative AI: From Autoregressive Models to Interacting LLM Networks and Neural SDEs
未翻訳のため中国語で表示しています。
AI ガイド
研究人员提出从随机动力系统视角统一建模三类生成式 AI:单体 LLM、交互式 LLM 网络与神经 SDE。该框架将 LLM 形式化为自回归模型以解释序列 token 生成,利用均值场常微分方程表征 LLM 网络的集体涌现与结构偏差,并引入基于粗糙路径分析的维纳空间求积方法作为神经 SDE 训练中 Monte Carlo 估计的高效替代方案。
出典:arXiv 机器学习 · arxiv.org