苹果基于MLX与RDMA实现Mac Studio分布式LLM推理

2026年10月16日，苹果研究团队展示了在Mac Studio上进行大语言模型（LLM）本地与分布式推理的实测方案。该方案基于苹果MLX框架，并结合了Thunderbolt 5的RDMA低延迟驱动，实现了在单台以及多台Mac Studio设备上运行大语言模型的推理任务，展现了利用消费级高端硬件与低延迟互联进行分布式模型推理的能力。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。