NVIDIA Nemotron 3.5 Lightning 上线 Ollama,30B 参数本地运行
NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。这是一个 30B 总参数、每 token 仅 3B 激活的开放模型,采用混合 MoE 架构,支持最高 1M token 上下文,面向持续运行的智能体任务,如读取文件、调用工具、整理结果和失败重试。官方称其吞吐量比同类开放模型高 4 倍,任务完成时间快 30%,并针对 Apple silicon 提供 nemotron-3.5-lightning:30b-mlx 版本。
匹配字段标题、摘要、正文