跳到正文
原文
arXiv 人工智能· Masoud Shokrnezhad, Tarik Taleb·· 2 小时前AI 评分35

面向智能体 AI 系统的感知不确定性资源编排

Uncertainty-Aware Resource Orchestration for Agentic AI Systems

AI 导读

针对 LLM 驱动的智能体 AI 运行时资源不可预测问题,研究提出在线编排算法 CRO(Conformal Reservation for Orchestration)。该算法利用共形预测将历史执行轨迹转化为具备无分布覆盖保证的调度时算力与带宽预留方案。仿真显示,CRO 是唯一在所有风险水平下均满足目标概率覆盖的方法,且较切比雪夫界基线减少约一半的资源浪费。

来源:arXiv 人工智能 · arxiv.org