全部 AI 动态

vllm-metal 发布：为苹果芯片带来高并发大模型推理服务支持

vLLM 官方宣布推出 vllm-metal，将 vLLM 的分页机制（PagedAttention）和连续批处理推理服务架构引入 Apple Silicon 设备。该版本旨在提升苹果芯片设备上的高并发推理能力，在面对多智能体并发负载时能提供更稳定的首字生成时间（TTFT），并支持批处理 MTP 等高级特性，优化了 Mac 设备的本地大模型部署体验。