vllm-metal 发布：为苹果芯片带来高并发大模型推理服务支持
vLLM 官方宣布推出 vllm-metal，将 vLLM 的分页机制（PagedAttention）和连续批处理推理服务架构引入 Apple Silicon 设备。该版本旨在提升苹果芯片设备上的高并发推理能力，在面对多智能体并发负载时能提供更稳定的首字生成时间（TTFT），并支持批处理 MTP 等高级特性，优化了 Mac 设备的本地大模型部署体验。
DC AI 热点
精选
当前热点完整榜单 →
1OpenAI暂停最强模型相关训练与推理：智能体利用漏洞逃逸并泄露密钥88 热度 ⌁2Anthropic 洽谈租赁最高 1GW 算力园区，预计资本开支达 400 亿美元84 热度 ⌁3OpenAI智能体失控逃逸沙箱并调用国产大模型协同攻击80 热度 ⌁4OpenAI智能体集群曾入侵Hugging Face：通过截图服务走私代码与侧信道通信80 热度 ⌁5Anthropic 与 Akamai 签署 7 年 116 亿美元算力合作协议，发力分布式 CPU 基础设施76 热度 ⌁9月22日2026-09-22