跳到正文
原文
Hacker News · AI· mcbg1541·· 3 小时前精选AI 评分66

Python 韧性框架 Baldur 发布:支持 LLM 协同 429 退避与故障任务重放

Show HN: One line so LLM workers share a 429 wait and keep jobs an outage stops

AI 导读

Baldur 是一款面向 Python 服务的开源韧性治理框架,通过装饰器和 SDK 封装为大语言模型调用及外部 API 提供多 worker 协同的 429 限流退避、熔断降级与死信队列重放。

推荐理由

原文提供了单装饰器实现的熔断与自动重放方案,开发者可据此评估其对治理大模型限流和级联故障的实用性。

来源:Hacker News · AI · github.com