先了解这件事
2026 年 3 月 30 日,Ollama 发布预览版,在 Apple Silicon 上改用 Apple 的机器学习框架 MLX 驱动,利用统一内存架构加速,并在 M5、M5 Pro 和 M5 Max 上借助 GPU Neural Accelerators 提升首 token 时间与生成速度。据 Ollama Blog 介绍,测试于 2026 年 3 月 29 日使用阿里 Qwen3.5-35B-A3B 模型进行,Ollama 0.19 在 int4 量化下可达 1851 token/s prefill 和 134 token/s decode。该版本还引入 NVIDIA NVFP4 格式以降低内存带宽和存储需求,并升级缓存以复用跨对话缓存、在提示词中设置智能检查点并延长共享前缀存活时间,需 Mac 统一内存超过 32GB。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
Ollama 预览版在 Apple Silicon 上改用 MLX 驱动事件进展
1 个已确认进展
- 来源：Ollama Blog
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
3月30日
Ollama Blog一手精选
Ollama 预览版在 Apple Silicon 上改用 MLX 驱动
Ollama 发布预览版，在 Apple Silicon 上改用 Apple 的机器学习框架 MLX，利用统一内存架构加速，在 M5、M5 Pro 和 M5 Max 上借助 GPU Neural Accelerators 提升首 token 时间与生成速度。测试于 2026 年 3 月 29 日使用阿里 Qwen3.5-35B-A3B 模型进行，Ollama 0.19 在 int4 量化下可达 1851 token/s prefill 和 134 token/s decode。该版本还引入 NVIDIA NVFP4 格式以降低内存带宽和存储需求，并升级缓存以复用跨对话缓存、在提示词中设置智能检查点并延长共享前缀存活时间，需 Mac 统一内存超过 32GB。