Project Maya 引入 CUDA 与 ROCm 双后端支持，异构 GPU 推理速度最高提升 48%

开源推理项目 Project Maya 提交 PR 引入 CUDA 与 ROCm 双后端支持，实现跨厂商 GPU 协同执行大语言模型推理。该方案由 CUDA 负责主模型执行，单独编译的 HIP 模块结合 96 GiB UMA 负责 GLM 专家计算；在 Ryzen AI Max+ 395 与 RTX 5090 平台上，实测解码速度相比原生 CUDA 与 CPU 配置提升最高达 48%。