AgentDP：面向异构嵌入式 AI 应用的自动化模型部署框架

研究人员提出自动化模型部署框架 AgentDP，利用 LLM 智能体全自动完成预训练 AI 模型在异构嵌入式设备上的优化与适配。该框架包含用户需求标准化、算子感知模型切分范式以及配置复用三大核心模块，使模型不同部分能在不同推理引擎上高效执行。实验显示，AgentDP 相比人工优化与适配可减少高达 80% 的模型适配时间，并将平均任务准确率提升超过 13%。