vLLM-Omni 推出分布式分层卸载技术，支持超显存容量 DiT 模型高效推理
vLLM-Omni 推出分布式分层卸载（DLO）技术，通过 Meta 设备与 mmap 加载、权重切分重构、双缓冲预取以及数据并行多并发，使单卡显存不足的超大视频生成模型可在多卡 GPU 或 NPU 上高效运行。
推荐理由：vLLM-Omni 结合 mmap 与多流 AllGather 卸载降低显存与内存峰值，为大参数量扩散模型的低成本分布式推理提供了落地路径。
#多模态
#多模态
今日 1 条vLLM 官方博客（网页）精选AI 评分7272
Google AIAI 评分5050 Google：让 AI 覆盖每一种语言，服务每一个人
Google 推进多语言 AI 技术，推出支持 70 种语言和 2,000+ 语言对实时翻译的 Gemini 3.5 Live Translate，以及高精度语音转文本模型 Gemini 3.5 Transcribe。为解决网络受限环境下的使用需求，Google 还发布了基于 Gemini 构建的轻量级开源翻译模型家族 TranslateGemma，覆盖 55 种语言并支持端侧离线高效运行。
NVIDIA Developer BlogAI 评分5555 何时使用编码-预填充-解码解耦（EPD）加速多模态模型服务
编码-预填充-解码（EPD）解耦是一种多模态模型推理优化技术，将视觉编码器阶段与预填充和解码阶段分离。该技术在图像密集型提示词、中短长度输出以及量化 MoE 模型场景中最为有效。文章介绍了结合 NVIDIA Dynamo 使用 EPD 解耦的具体时机与方法，最高可实现 5 倍加速。
Google AIAI 评分4848 Google DeepMind 借助 AI 逐帧重现 70 年爱情故事
Google DeepMind 与电影制作团队合作推出纪录短片《Love, Rendered》，利用 AI 技术重现了一对结婚超 70 年夫妇未曾被影像记录的初遇记忆。团队结合生成模型修复黑白老照片，并通过动作捕捉模型将老人当下的微表情与神态映射至年轻形象。用户也可在 Gemini 应用中上传老照片进行修复与上色。
月之暗面 Kimi 公众号精选AI 评分9090 月之暗面发布 Kimi K3 模型权重与技术报告并开源三项训练 Infra 技术
月之暗面正式发布 Kimi K3 模型权重及技术报告，并同步开源支撑其训练的关键基础设施 MoonEP、FlashKDA 和 AgentEnv。Kimi K3 为拥有 2.8 万亿参数的 MoE 模型，支持原生视觉理解与 100 万 token 上下文窗口，每 token 从 896 个专家中激活 16 个。
推荐理由：月之暗面不仅开放了长上下文与原生视觉模型权重，还配套开源了专家并行通信库与算子等训练基建。
月之暗面 Kimi 公众号精选AI 评分8888 月之暗面发布 Kimi K3：开放 2.8 万亿参数 MoE 模型权重、技术报告与训练 Infra
月之暗面在 Kimi K3 开放日正式发布 Kimi K3 模型权重、技术报告，并开源支撑模型训练的关键 Infra 技术。Kimi K3 是拥有 2.8 万亿参数的 MoE 模型，具备原生视觉理解能力与 100 万 token 上下文窗口，支持自由下载部署。本次配套开源了专家并行通信库 MoonEP、高性能算子 FlashKDA 以及用于分布式强化学习的 AgentEnv 沙箱系统。
推荐理由：月之暗面同步开放了万亿参数混合专家模型权重、技术报告及训练基础设施，有助于开发者了解其超长上下文与细粒度通信优化方案。
通义实验室 公众号精选AI 评分7373 通义实验室发布 Qwen-Audio-3.0-TTS 语音合成模型
通义实验室正式发布实时语音合成模型 Qwen-Audio-3.0-TTS，推出首包延迟约 300ms 的 Flash 版与注重音色还原度的 Plus 版。模型覆盖 16 种语言及 20 种中文方言，支持自然语言指令控制与呼吸、笑场等结构化标签嵌入调控，单次合成支持最长 3 分钟并升级至 48kHz 音频输出，现已在阿里云百炼平台上线。
推荐理由：模型提供兼顾实时与高音质的两个版本并支持指令控制情感，有助于开发者评估其在多语种及复杂场景的落地表现。
通义实验室 公众号精选AI 评分7979 通义实验室发布实时多模态交互模型 Wan-Streamer v0.2
通义实验室发布实时双工全模态交互模型 Wan-Streamer v0.2，端到端响应延迟约 550ms，输出视频分辨率提升至 640×368 @ 25FPS。模型将传统流水线重构为基于 160ms 流式单元的原生因果流，并采用单卡 Thinker 与多卡 Performer 双通路硬件解耦与 Ulysses 序列并行机制，实现低延迟感知与重载视频生成的时序重叠。
推荐理由：原文给出了双通路硬件解耦与时序重叠调度方案，展示了在大幅提升视频分辨率时维持超低交互延迟的具体工程路径。
通义实验室 公众号精选AI 评分7676 通义实验室发布 Qwen-Audio-3.0-Realtime 实时语音交互模型
通义实验室将语音交互模型 Fun-Realtime-AudioChat 正式升级更名为 Qwen-Audio-3.0-Realtime 并上线阿里云百炼，提供 plus 和 flash 两个版本。
推荐理由：升级通过多模态双工与多教师蒸馏兼顾了低延迟抗噪和复杂工具调用，适合语音交互开发者参考。
通义实验室 公众号精选AI 评分7878 通义实验室发布具身智能基础模型套件 Qwen-Robot
通义实验室正式推出具身智能基础模型套件 Qwen-Robot，通过模块化协同弥合视觉语言理解到物理行动的鸿沟。套件包含负责多任务移动控制的 Qwen-RobotNav、统一 80 维跨本体操作表征的 VLA 模型 Qwen-RobotManip，以及基于双流 MMDiT 预测物理演化的世界模型 Qwen-RobotWorld。
推荐理由：原文给出了导航、操作与世界模型三模块的协同架构，读者可据此了解具身大模型统一跨本体动作空间的落地路径。