Hacker News · AI· debdut·· 5 小时前AI 评分27
Flint 40B：前沿本地大语言模型，在 MacBook 上可达 125 Tps
Flint 40B: Frontier Local LLM (Fast 125 Tps on MacBook)
AI 导读
Flint 40B 是一款面向本地运行的前沿大语言模型。该模型在 MacBook 设备上能够实现 125 Tps 的高速运行，主打高效的本地端侧推理体验。
来源：Hacker News · AI · twitter.com