arXiv 机器学习· Albert Heekwan Kim·· 6 小时前AI 评分42
KORA:面向 AI 工作负载的确定性优先执行控制
KORA: Deterministic-First Execution Control for AI Workloads
AI 导读
KORA 提出了一种面向 AI 工作负载的确定性优先执行控制架构,通过推理前控制层优先尝试确定性路由,仅在处理不足时升级至模型调用。在 100 个任务的可复现基准测试中,KORA 相比直接调用基线避免了 80 次模拟模型调用,且在确定性子集上实现零不匹配。相关代码与基准已开放获取。
来源:arXiv 机器学习 · arxiv.org