Hacker News · AI· 0ARCH·· 4 小时前AI 评分59
开源 1.6B 模型 Kisoku：个人从零预训练，评测持平 Llama 3.2 1B
Kisoku 1.6B: LLM trained solo from scratch on a TPU grant, matches Llama 3.2 1B
AI 导读
开发者个人利用 Google TPU 赞助从零预训练了 1.6B 参数的大语言模型 Kisoku 1.6B，现已按 Apache 2.0 协议开源全套权重与代码。
来源：Hacker News · AI · github.com