跳到正文
原文
Hacker News · AI· albinstman·· 4 小时前精选AI 评分60

开源工具 Llmspeed 上线:支持在购入硬件前模拟评估本地大语言模型运行速度

Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware

AI 导读

开源工具 Llmspeed 正式上线并在 GitHub 开源,支持用户在选购硬件前直观模拟并评估本地大语言模型的运行速度。平台覆盖了 NVIDIA 显卡、AMD 处理器及显卡、苹果 Mac 系列以及云端 GPU 等多种设备,并支持 Qwen、DeepSeek 等多款开源模型。其数据来源于 r/LocalLLaMA 等社区实测基准以及基于硬件规格的推算,支持按硬件或按模型维度查询单设备上的运行表现。

推荐理由

该工具汇总了社区实测基准与规格推算数据,便于开发者在采购硬件前直观评估各型号本地大语言模型的运行速度。

来源:Hacker News · AI · llmspeed.dev