Hacker News · AI· joshcsimmons·· 1 日前厳選AI スコア65
QwenPU 发布:将 RISC-V CPU 与矢量单元编译进大语言模型权重
QwenPU: An LLM running inside another LLM's weights
未翻訳のため中国語で表示しています。
AI ガイド
开发者开源 QwenPU 项目,通过在 Qwen3.5-4B 权重中编译入 32 位 RISC-V CPU 和矢量计算单元,实现直接在模型前向传播内运行另一个小型神经网络。
推薦理由
该项目展示了将通用处理器与矢量单元直接编译进 Transformer 权重的机制,为在模型前向传播中运行任意图灵完备程序提供了工程参考。
出典:Hacker News · AI · huggingface.co