Hacker News · AI· utsav1033·· 9 小时前精选AI 评分71
开发者开源 3KB 极简 C 语言大语言模型推理引擎 bytesized
Show HN: A 3KB LLM inference engine in C
AI 导读
开发者开源了二进制体积仅 3,156 字节的 C 语言大语言模型推理引擎 bytesized，无需转换格式即可直接读取并运行 SmolLM2-135M 的原始 safetensors 权重。
推荐理由
该项目展示了通过剥离系统库、单段链接与自解压压缩将大语言模型推理代码极简化的工程思路。
来源：Hacker News · AI · github.com