先了解这件事
2026年9月25日,一项混合LLM压缩研究发布结果,发现剪枝与量化的组合对模型真实性和推理能力产生非加性交互效应。研究在Falcon3-1B-Base、LLaMA-3.2-1B和Qwen2.5-1.5B上测试,结果显示效果并非简单相加:在TruthfulQA上,混合压缩比预期高约7分(Falcon)和12至14分(LLaMA);而在GSM8K与MMLU上下降16至20分,部分设置下GSM8K准确率归零。交互效应在20%至30%中等剪枝率时最强,50%时回落,量化与剪枝的先后顺序只带来1至2分差异。目前该研究已通过代表性来源报道,暂无后续发展。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：AIhub
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
9月29日
AIhub
AIhub 月度摘要：2026 年 9 月——追踪动物种群、推荐系统与 Ken Goldberg 访谈
AIhub 发布 2026 年 9 月月度摘要，内容涵盖对机器人学家 Ken Goldberg 的访谈、用深度学习追踪野生动物种群、大规模推荐系统早期排序器优化，以及外部知识在 AI 系统中的流转研究。本月 GPT 系列新模型 GPT-6 Astra 向付费用户开放，Sebastian Raschka 撰文分享初体验；多位菲尔兹奖得主签署声明，警告生成式 AI 用于数学研究存在目的与结果错位。
9月25日
AIhub
混合压缩不只是叠加：剪枝与量化在 LLM 上的交互效应
研究在 Falcon3-1B-Base、LLaMA-3.2-1B 和 Qwen2.5-1.5B 上测试剪枝与量化组合后的交互效应，发现效果并非简单相加：TruthfulQA 上混合压缩比预期高约 +7 分（Falcon）和 +12 至 +14 分（LLaMA），而 GSM8K 与 MMLU 下降 16 至 20 分，部分设置下 GSM8K 准确率归零。交互效应在 20–30% 中等剪枝率时最强，50% 时回落，且量化与剪枝的先后顺序只带来 1 至 2 分差异。