Hacker News · AI· hsnewman·· 4 小时前AI 评分48
为何不再为 ChatGPT 或 Claude 支付 $20:免费本地大语言模型已能胜任
I'm not paying $20 for ChatGPT or Claude because a free local LLM does
AI 导读
作者通过在本地部署千问(Qwen 3.8-27B)成功替代了每月各 $20 的 ChatGPT 与 Claude 订阅。该方案采用 Unsloth 的 UD-IQ4_XS 版本(13.3GB)并基于 llama.cpp 运行,在 4070 Ti Super 显卡上实现 16K 上下文窗口与 33.7 tokens/s 推理速度。
来源:Hacker News · AI · xda-developers.com