先了解这件事
AI 综述
2026年11月2日,MiniMax官方汇总了社区为428B的M3.1 Flash提供的多种量化与本地推理方案,宣布该模型可在更多硬件上运行。官方列出的方案包括UnslothAI的2-bit Dynamic GGUF权重(143.9 GB)、SAGE-EXL3、Project Maya的专家卸载、EXL3-EAQ、Apple Silicon上的oQ量化与oMLX解码、适配AMD Instinct的Quark MXFP4,以及在4× RTX 3090上结合量化权重与专家缓存的推理实现。MiniMax称,低位权重可降低加载模型所需内存和解码时搬运的权重数据,但需要仔细校准、高效低位kernel以及跨GPU与系统内存的专家放置。目前尚无后续发展。
AI 根据公开报道生成
最新进展 · 正式报道
MiniMax M3.1 Flash 获多个社区量化方案支持本地运行事件进展
1 个已确认进展
- 来源：MiniMax
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
11月2日
MiniMax一手精选
MiniMax M3.1 Flash 获多个社区量化方案支持本地运行
MiniMax 官方汇总了社区为 428B 的 M3.1 Flash 提供的多种量化与本地推理方案，包括 UnslothAI 的 2-bit Dynamic GGUF 权重（143.9 GB）、SAGE-EXL3、Project Maya 的专家卸载、EXL3-EAQ、Apple Silicon 上的 oQ 量化与 oMLX 解码、适配 AMD Instinct 的 Quark MXFP4，以及在 4× RTX 3090 上结合量化权重与专家缓存的推理实现。官方称低位权重可降低加载模型所需内存和解码时搬运的权重数据，但需要仔细校准、高效低位 kernel 以及跨 GPU 与系统内存的专家放置。