跳到正文
原文
Hacker News · AI· joshcsimmons·· 59 分钟前精选AI 评分65

QwenPU 发布:将 RISC-V CPU 与矢量单元编译进大语言模型权重

QwenPU: An LLM running inside another LLM's weights

AI 导读

开发者开源 QwenPU 项目,通过在 Qwen3.5-4B 权重中编译入 32 位 RISC-V CPU 和矢量计算单元,实现直接在模型前向传播内运行另一个小型神经网络。

推荐理由

该项目展示了将通用处理器与矢量单元直接编译进 Transformer 权重的机制,为在模型前向传播中运行任意图灵完备程序提供了工程参考。

来源:Hacker News · AI · huggingface.co