Skip to content
arXiv 机器学习· Vikram Krishnamurthy, Yiming Zhang, Luke Snow·· 5 hours agoAI score33

生成式 AI 的随机动力学:从自回归模型到交互式 LLM 网络与神经 SDE

Stochastic Dynamics of Generative AI: From Autoregressive Models to Interacting LLM Networks and Neural SDEs

Not yet translated; shown in Chinese.

AI guide

研究人员提出从随机动力系统视角统一建模三类生成式 AI:单体 LLM、交互式 LLM 网络与神经 SDE。该框架将 LLM 形式化为自回归模型以解释序列 token 生成,利用均值场常微分方程表征 LLM 网络的集体涌现与结构偏差,并引入基于粗糙路径分析的维纳空间求积方法作为神经 SDE 训练中 Monte Carlo 估计的高效替代方案。

Source:arXiv 机器学习 · arxiv.org