Hacker News · AI· taco-man·· 3 小时前AI 评分55
开源无损压缩工具 Taco 发布：基于纯整数 GPT-2 推理保证跨硬件比特级一致
Show HN: Taco - LLM compression that gives the same bytes on every CPU and GPU
AI 导读
开源无损压缩工具 Taco 正式发布 0.1.0 概念验证版本，通过纯整数 GPT-2 推理实现不同 CPU 与 GPU 间完全一致的压缩输出。其核心引擎 HardShell 彻底摒弃浮点运算，采用 i8 权重与固定舍入规则消除硬件差异，支持 macOS、Linux 及 Windows 上的 CPU、CUDA 和 wgpu 后端。
来源：Hacker News · AI · github.com