跳到正文
原文
vLLM 官方博客(网页)·· 4 小时前AI 评分51

vLLM-Omni 将 114B 音视频 MoE 模型 MAGI-2 Preview 适配摩尔线程 MUSA 架构

MAGI-2 Preview on vLLM-Omni: Bringing a 114B Audio-Video MoE DiT to Moore Threads MUSA with torchadaOct 12, 2026·45 min readvLLM-Omni runs Sand AI's MAGI-2 Preview audio-video generation model on eight Moore Threads MTT S5000 GPUs through torchada's CUDA compatibility layer, then optimizes MoE, mHC, attention, parallelism, and compilation.

AI 导读

vLLM-Omni 通过 torchada 兼容层将 Sand AI 的 114B 音视频 MoE DiT 模型 MAGI-2 Preview 部署至 8 卡摩尔线程 MTT S5000。

来源:vLLM 官方博客(网页) · vllm.ai