Hacker News · AI· mcbg1541·· 3 小时前精选AI 评分66
Python 韧性框架 Baldur 发布:支持 LLM 协同 429 退避与故障任务重放
Show HN: One line so LLM workers share a 429 wait and keep jobs an outage stops
AI 导读
Baldur 是一款面向 Python 服务的开源韧性治理框架,通过装饰器和 SDK 封装为大语言模型调用及外部 API 提供多 worker 协同的 429 限流退避、熔断降级与死信队列重放。
推荐理由
原文提供了单装饰器实现的熔断与自动重放方案,开发者可据此评估其对治理大模型限流和级联故障的实用性。
来源:Hacker News · AI · github.com