跳到正文
原文
Hacker News · AI· kekz·· 3 小时前精选AI 评分65

开源 LLM 服务端 Imp 发布:专为 Blackwell 架构 RTX 50 系显卡打造

Show HN: Imp, an LLM Server for RTX 50 GPUs, Written by Claude Code

AI 导读

开发者 kekz 开源了专为 NVIDIA Blackwell 架构(sm_120a)RTX 50 系列及 RTX PRO 显卡打造的单卡 LLM 推理服务端 Imp,全部代码由 Claude Code 编写。

推荐理由

作者专为单个 Blackwell 架构 GPU 优化推理内核并完全由 Claude Code 编写,为本地单卡大模型服务提供了极具针对性的参考方案。

来源:Hacker News · AI · github.com