Hacker News · AI· thesnarkitecht·· 9 hours agoAI score20
Ask HN：有人能以可用速度运行前沿 AI 模型吗？
Ask HN: Can anyone run frontier AI models at usable speeds?
Not yet translated; shown in Chinese.
AI guide
Hacker News 用户发帖询问是否有开发者可购买的硬件能以可用速度本地运行前沿 AI 模型，从而真正抵消云端账单。该用户指出，EXO labs 在 8 个月前承诺了本地硬件快速推理，但目前通过 hermes 运行 Kimi K2.6 仍需 1 分半钟才能获得响应。
Source:Hacker News · AI · news.ycombinator.com