Hacker News · AI· drakestapleton·· 5 小时前精选AI 评分67
开源项目 CUDA++ 发布:支持脱离 CUDA 在 NVIDIA DGX Spark 上运行本地 AI
Running Local AI on Nvidia DGX Spark Without CUDA
AI 导读
开源项目 CUDA++ 正式发布,支持在不依赖任何 CUDA 用户态软件的前提下直接在 NVIDIA DGX Spark 的 GB10 芯片上运行 GPU 程序。该项目逆向实现了 sm_121 架构机器码编码器并直连开源内核模块,无需 nvcc 与 libcuda 即可将代码编译为裸机指令。项目已验证在零 CUDA 依赖环境下成功承载 Qwen3.6-35B-A3B 模型的本地推理运行。
推荐理由
原文展示了完全绕过闭源用户态栈直接驱动硬件的实现路径,为异构算力解耦提供了具体工程参考。
来源:Hacker News · AI · github.com