←新闻详情

Rohan Paul更新于 10月25日 21:25

Qwen3.8-27B 强化学习后训练模型在多项 Agent 基准上超过 GPT-6 Luna high

Some of the most interesting agent results this year are coming out of post-trains of small open models.

AI 导读

Rohan Paul 介绍了一个基于 Qwen3.8-27B 做强化学习后训练的开源环境模型,在 AA-Omniscience 上把幻觉率从 30.4% 降到 15.1%。该模型在 Terminal-Bench、τ³-bench、ClawEval 和 BFCL v4 上超过 Muse Glimmer 30B 与 GPT-6 Luna high,但 DeepSWE 仍由 Luna 以 53.1% 领先;它解出任务的中位输出为 23.8K token,基础 Qwen 为 54.9K。作者还提到 MLA 版本把 16 层全注意力改为多头潜在注意力,每 token 内存占用从 64 KiB 降到 18 KiB,压缩版可跑在单张 24 GB RTX 4090 上,上下文约为基础 Qwen 的 3.5 倍。

推荐理由

AI 评分 63

作者以第一手实测对比小模型 RL 后训练在 Agent 任务上的表现,并给出显存与输出 token 的具体差异。

主题

标签

正文 · AI 翻译

今年一些最有趣的智能体成果,来自小型开放模型的后训练。

一个用开源环境训练的新强化学习后训练模型 Qwen3.8-27B,将 AA-Omniscience 上的幻觉率从 30.4% 降至 15.1%。

MLA 版本的压缩副本能装进我单张 24 GB 的 RTX 4090,上下文长度约为基础版 Qwen 的 3.5 倍。

它在 DeepSWE 上击败 GPT 6 Luna-medium,成绩介于 Luna 6 medium 和 high 之间。在 Terminal-Bench 2.1 上得分更高,同时每个解出任务的中位输出为 23.8K token,而基础版 Qwen 为 54.9K。

试用了这个模型的一个未发布版本,真切感受到了其相对更高的智能密度,它写的少得多。

在 Terminal-Bench、τ³-bench、ClawEval 和 BFCL v4(伯克利函数调用排行榜)上超过 Muse Glimmer 30B 和 OpenAI 的 GPT-6 Luna(high),不过 Luna 仍以 53.1% 在 DeepSWE 上胜出。

他们还发布了一个 MLA 版本,即同一模型将其 16 个全注意力层转换为多头潜在注意力,使每个 token 占用的内存从 64 KiB 降至 18 KiB,从而让更多或更长的会话能装进单张 GPU。

来源

Rohan Paul