Hacker News · AI· joshcsimmons·· 59 分钟前精选AI 评分65
QwenPU 发布:将 RISC-V CPU 与矢量单元编译进大语言模型权重
QwenPU: An LLM running inside another LLM's weights
AI 导读
开发者开源 QwenPU 项目,通过在 Qwen3.5-4B 权重中编译入 32 位 RISC-V CPU 和矢量计算单元,实现直接在模型前向传播内运行另一个小型神经网络。
推荐理由
该项目展示了将通用处理器与矢量单元直接编译进 Transformer 权重的机制,为在模型前向传播中运行任意图灵完备程序提供了工程参考。
来源:Hacker News · AI · huggingface.co