Hacker News · AI· maille·· 3 小时前精选AI 评分79
Strata 开源：支持在普通消费级游戏 PC 上本地运行 125B 参数 AI 模型
Strata: Run a 125B-parameter AI model on a normal gaming PC
AI 导读
开源推理工具 Strata 支持在配备 12–24 GB 显存 NVIDIA 显卡与 64 GB 内存的普通消费级 PC 上本地运行 125B 参数的 Qwen3.8-Flash-Next 模型。
推荐理由
项目给出了将 125B 稀疏模型拆解到显存、内存与 SSD 协同推理的落地方案，为消费级硬件端侧运行超大参数模型提供了参考。
来源：Hacker News · AI · github.com