Ollama 更新· dhiltgen·· 3 小时前AI 评分20
Ollama v0.40.7-rc1 发布:去重 MLX 的 CUDA 运行时载荷
v0.40.7-rc1: mlx: deduplicate CUDA runtime payloads (#17956)
AI 导读
Ollama 发布 v0.40.7-rc1 版本,对 MLX 的 CUDA 运行时载荷进行去重优化。更新将 GGML 与 MLX 后端共享的 CUDA 库移入同级 CUDA 载荷,使进程内和子进程 MLX 加载均能解析该依赖目录。此外,私有库与 JIT 头文件仍保留在 MLX 覆盖层中,并包含了完整的 OpenBLAS Fortran 运行时闭包。
来源:Ollama 更新 · github.com