结合在线偏好学习的机会约束个性化 LLM 路由

该研究提出了结合在线偏好学习的机会约束个性化 LLM 路由算法，旨在未知用户偏好时自适应调度异构模型，以最小化累积推理成本并确保回答质量。该方法将其形式化为受约束的上下文老虎机问题，在逻辑偏好模型下实现了次线性期望成本遗憾，并为实际累积满意度提供高概率保证。该框架还可推广至具备可靠性要求的更广泛在线模型选择任务。