Hacker News · AI· giovanniwants·· 12 hours agoAI score20
可在 8GB Mac 上运行 80B 模型的本地 AI 应用 Yanah
Local AI app that runs an 80B model on an 8GB Mac
Not yet translated; shown in Chinese.
AI guide
本地 AI 应用 Yanah 采用新技术,支持在 8GB 内存的 Mac 上以聊天速度本地运行 80B 模型。该应用无需联网、无订阅且不依赖云端数据中心,能将模型体积控制在 50GB 以下,所有对话和数据均保留在用户本地设备中。
Source:Hacker News · AI · yanahchat.com