跳到正文
原文
Hacker News · AI· hsnewman·· 4 小时前AI 评分48

为何不再为 ChatGPT 或 Claude 支付 $20:免费本地大语言模型已能胜任

I'm not paying $20 for ChatGPT or Claude because a free local LLM does

AI 导读

作者通过在本地部署千问(Qwen 3.8-27B)成功替代了每月各 $20 的 ChatGPT 与 Claude 订阅。该方案采用 Unsloth 的 UD-IQ4_XS 版本(13.3GB)并基于 llama.cpp 运行,在 4070 Ti Super 显卡上实现 16K 上下文窗口与 33.7 tokens/s 推理速度。

来源:Hacker News · AI · xda-developers.com