先了解这件事
2026 年 10 月 9 日,Conway Research 发布 Apache 2.0 许可的 2-bit GGUF 模型 Saluki 27B。据 MarkTechPost 同日报道,该模型是 Qwen3.8-27B 的 2-bit 混合精度量化版本,体积 7.89 GB,而 BF16 原模型需 54 GB,可在原生 llama.cpp 上运行并支持完整 GPU 卸载。在相同测试环境下,Saluki 在 Underdog Bench 的 120 项 BFCL v4 任务上得 88 分,原模型 84 分;并行工具调用 42 对 35;SWE-bench Verified 修复 30 个问题,原模型 33 个。报道称代价是数学与多步推理下降 12 到 18 分,AIME 2025 为 79.2 对 96.7。目前尚无后续发展事实。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：MarkTechPost
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月9日
MarkTechPost
Conway Research 发布 Underdog Saluki 27B：2-bit 量化的 Qwen3.8-27B 在工具调用上超过原模型
Conway Research 的端侧助手 Underdog 以 Apache 2.0 发布 Saluki 27B，这是 Qwen3.8-27B 的 2-bit 混合精度 GGUF，体积 7.89 GB，而 BF16 原模型需 54 GB，可在原生 llama.cpp 上运行并支持完整 GPU 卸载。在相同测试环境下，Saluki 在 Underdog Bench 的 120 项 BFCL v4 任务上得 88 分，原模型 84 分；并行工具调用 42 对 35；SWE-bench Verified 修复 30 个问题，原模型 33 个。代价是数学与多步推理下降 12 到 18 分，AIME 2025 为 79.2 对 96.7。