月之暗面发布 Kimi K3.1 Pro:2.8T 总参数、104B 激活参数,权重定于 11 月 4 日开放
月之暗面发布 Kimi K3.1 Pro,这是一款多模态 MoE 模型,总参数 2.8T、激活参数 104B,上下文窗口 100 万 token,标准版与 Highspeed 版已上线 Kimi 网站、App、Kimi Work、Kimi Code 和 API,官方称 Highspeed 输出速度提升 2–3 倍、价格为标准版两倍。Artificial Analysis 将其排在 Intelligence Index 第四位、得分 55,落后 Opus 5.5 的 58;Arena 的 Code Arena WebDev 排名第 8、1692 分,较 K3 上升九位。标准版定价为每百万 token 输入 2 美元、输出 10 美元、缓存输入 0.2 美元,较 K3 下降三分之一;权重尚未发布,官方承诺 11 月 4 日开放。
到端加速,这意味着 BF16 计算并非唯一瓶颈;内存带宽、内核覆盖范围、模型架构和框架开销都可能占据主导。他们将其与 ComfyUI 侧的优化(例如 MOSS-Image Spectrum 调整)进行比较,并声称后者在不修改 GPU 内核的情况下带来了约 20% 的更大加速。 一些用户将这一变化视为软件/内核层面的锁定,而非 RTX 3000 系列 BF16 性能的硬件限制,并建议对 RTX 20/30/40/50 系列内核开展更广泛的逆向工程。主要的技术顾虑在于稳定性与安全性:给厂商内核打补丁可能引入正确性问题、驱动不兼容或意外的温度/功耗行为,因此一些人计划等待更广泛的测试后再应用。 对于使用 RTX 3090 等显卡的 ComfyUI 用户而言,收益很可能在很大程度上取决于其流水线是否实际使用 BF16 密集型内核。以 INT8 量化模型(如 ConvRot 风格的图像生成或视频生成)为中心的工作流,如果推理主要由 INT8/FP16 路径、内存搬运、注意力内核、VAE/解码器阶段或 CPU/IO 瓶颈主导,而非 BF16 矩阵运算,则收益可能有限。感谢阅读 保持略微领先于趋势。
匹配字段正文