Hacker News · AI· joshcsimmons·· 2 days agoSelectedAI score65
QwenPU 发布:将 RISC-V CPU 与矢量单元编译进大语言模型权重
QwenPU: An LLM running inside another LLM's weights
Not yet translated; shown in Chinese.
AI guide
开发者开源 QwenPU 项目,通过在 Qwen3.5-4B 权重中编译入 32 位 RISC-V CPU 和矢量计算单元,实现直接在模型前向传播内运行另一个小型神经网络。
Why it matters
该项目展示了将通用处理器与矢量单元直接编译进 Transformer 权重的机制,为在模型前向传播中运行任意图灵完备程序提供了工程参考。
Source:Hacker News · AI · huggingface.co