Skip to content
Hacker News · AI· joshcsimmons·· 2 days agoSelectedAI score65

QwenPU 发布:将 RISC-V CPU 与矢量单元编译进大语言模型权重

QwenPU: An LLM running inside another LLM's weights

Not yet translated; shown in Chinese.

AI guide

开发者开源 QwenPU 项目,通过在 Qwen3.5-4B 权重中编译入 32 位 RISC-V CPU 和矢量计算单元,实现直接在模型前向传播内运行另一个小型神经网络。

Why it matters

该项目展示了将通用处理器与矢量单元直接编译进 Transformer 权重的机制,为在模型前向传播中运行任意图灵完备程序提供了工程参考。

Source:Hacker News · AI · huggingface.co