Buzzing HN · 中文精选· schopra909·· 3 小时前精选AI 评分68
Linum 开源 2B 文本生成图像模型 Pyramid-JiT,训练成本约 2.1 万美元
Show HN: 一个训练成本约为 2 万美元的优质文本转图像模型(Apache 2.0 权重)
AI 导读
Linum 开源了 2B 参数的像素空间文本生成图像模型 Pyramid-JiT 并开放 Apache 2.0 权重,全流程训练成本仅约 21,038 美元。该模型彻底舍弃传统 VAE,采用 32×32 的 token 压缩将注意力上下文窗口缩减 4 倍,并结合多分辨率中间读出头加速网络收敛。
推荐理由
团队验证了去除传统 VAE 并在像素空间实现高倍率压缩的可行性,为低算力自研扩散模型提供了端到端的工程参考。
来源:Buzzing HN · 中文精选 · linum.ai