Modelflare 将 LLM 故障转移设计为路由切换而非重试循环

Modelflare 将大语言模型请求故障转移机制设计为路由组切换，而非对同一服务商进行重复重试。当路由组无对应渠道、触发速率限制或组内渠道尝试耗尽且返回可重试错误时才会切至备用组，但遇客户端错误或已输出正文字节的流式请求会立即终止。发生切换的请求按实际提供服务的路由组倍率计费，并支持通过 Smart API Key 自动按策略路由。