Tether AI 发布 BotPsy:0.8B 端侧智能体模型,工具调用基准较基座翻倍
BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model
Tether AI Research 在 Hugging Face 发布 BotPsy,这是一个基于 Qwen3.5-0.8B 后训练的亚十亿参数端侧智能体模型,BFCL v4 从 23.4 升至 44.0、ACEBench 从 30.1 升至 58.7、τ-bench 从 23.2 升至 51.5。在六项工具调用与智能体基准中,它在五项上超过参数量 2.5 倍的 Qwen3.5-2B-Think,仅在 Claw-Eval 上落后(46.5 对 48.9)。模型经 SFT、多教师在线蒸馏和两轮 RL 四阶段训练,将以 Apache 2.0 开源权重发布 bf16、Q8、Q4 三种精度,提供 safetensors 与 GGUF 格式。
推荐理由
AI 评分 59
原文给出亚十亿参数模型在工具调用与多轮任务上的完整基准对比,可据此判断端侧智能体的能力边界。
主题
正文 · AI 翻译
核心亮点
基准测试结果
性能达到基座模型的两倍:在关键基准上,BotPsy 将 Qwen3.5-0.8B-Think 的智能体能力大致提升了一倍:BFCL v4 从 23.4 升至 44.0,ACEBench 从 30.1 升至 58.7,τ-bench 从 23.2 升至 51.5(零售、电信和银行三个子集的平均值)。
同类中最佳智能体:在全部六项工具调用与智能体基准(BFCL v4、ACEBench、τ-bench、ToolSandbox、Claw-Eval 和 BrowseComp-Plus)上,BotPsy 均优于 ≤1.2B 参数权重级别中的领先模型(Qwen3.5-0.8B-Think、LFM2.5-1.2B-Think、MiniCPM5-1B-Think)。
超越更大的同系列模型:在六项基准中的五项上,BotPsy 取得了所有受测模型中的最高分,击败了参数量为其 2.5 倍的 Qwen3.5-2B-Think,包括 BFCL v4(44.0 对 37.7)、ACEBench(58.7 对 55.4)、τ-bench(51.5 对 46.5)、ToolSandbox(64.6 对 41.2)和 BrowseComp-Plus(4.5 对 2.8)。仅在 Claw-Eval 上 Qwen3.5-2B-Think 领先(48.9 对 46.5)。
模型能力
多轮工作流中更可靠:在 τ²-bench 上,智能体必须进行长时间的客户对话、遵循严格策略并代表客户行事,BotPsy 在电信场景中得分 82.5,领先于 Qwen3.5-2B-Think(69.3)。在 BFCL v4 的多轮任务上,它从基座的 7.5 升至 46.1,几乎是 Qwen3.5-2B-Think(23.8)的两倍。按应用场景分组,其多步骤得分在商业与服务(58.3 对次优的 Qwen3.5-2B-Think 47.4)以及设备与系统管理(46.1 对 31.9)中均领先所有受测模型。
知道何时(不)调用工具:会行动的智能体也必须知道何时不行动。在 BFCL v4 的幻觉测试中(检验模型在不存在合适工具时是否会拒绝调用),BotPsy 得分 86.1,为所有受测模型最高。在 ACEBench 的特殊案例中(请求不完整、包含错误参数或无法由给定工具满足),它得分 51.3,而其基座模型为 13.7。
遵循指令的同时保留知识:BotPsy 专注于工具使用,同时保留通用能力。指令遵循能力显著提升,IFEval 从 59.7 升至 90.8,IFBench 从 22.0 升至 55.9,为所有受测模型中最高 IFBench 得分。通用知识也有所提升,GPQA Diamond 从 33.2 升至 38.1,MMLU-Pro 从 41.6 升至 48.9。在这四项基准上,BotPsy 均优于我们测试的所有其他 1.2B 参数及以下的模型。
安全性、效率与部署
比同类领先模型更安全:在覆盖六类危害的自动化红队测试中,BotPsy 产生不安全响应的比例为 21%,而其基座模型为 36%。这是所有 1.2B 参数及以下模型中最低的比例(LFM2.5-1.2B-Think:35%;MiniCPM5-1B-Think:47%)。在提示注入攻击下(这对读取不可信工具输出的智能体最为重要),不安全率从基座模型的 46% 降至 31%。
推理更高效、循环更少:在所有五个模型均能正确回答的问题上,BotPsy 在 GPQA Diamond 上达到答案所用的推理 token 约为基座模型的 1/3(3,690 对 11,563),在 MMLU-Pro 上约为 1/2.7(1,912 对 5,105)。在所有 IFBench 尝试中,陷入重复推理循环的比例从 22.9% 降至 1.4%,触及 32k token 上限的运行比例从 28.3% 降至 0.2%。更短、更果断的推理应能降低端侧延迟。
开源且可直接使用:BotPsy 将以 Apache 2.0 许可证发布开放权重,供研究与教育用途使用。它将提供三种精度(bf16、Q8、Q4),以 Hugging Face safetensors 以及适用于 QVAC SDK 和 llama.cpp 的 GGUF 文件形式提供。
更广阔的愿景
在 BotPsy 的基础上,Tether Data, S.A. de C.V.(“Tether AI Research”,即“我们”)未来的开发将专注于扩展端侧智能体能力,使其无缝集成到更广泛的硬件和本地服务中。Tether 的 Hypersearch 将演进为支持更稳健的去中心化点对点(P2P)查询,进一步确保私密、加密的网页搜索,绕过企业追踪器。QVAC Fabric 的本地微调机制将得到优化,以更深入地适应用户个人偏好、工作流和专用工具环境。未来的迭代将允许智能手机界面在离线—在线切换期间,将繁重计算任务顺畅地委托给家用 PC 或可信的安全 P2P 节点。隐私协议将持续强化,以确保所有个人数据、凭据和决策严格保留在本地硬件上。将引入协作功能,允许在可信本地网络中进行安全的智能体间通信,而不损害用户机密性。最终,这些进展将巩固 BotPsy 作为一个完全自主、能力强大的个人 AI 生态系统,让用户完全掌控自己的数字生活。
方法论
BotPsy 基于 Qwen3.5-0.8B,按四个连续阶段进行后训练:监督微调(SFT)、多教师在线策略蒸馏(MOPD),以及两轮强化学习(RL)。每个阶段都以上一阶段的最佳检查点为起点,并受益于不同的学习信号:对参考轨迹的模仿、大得多的教师模型的 token 分布,以及基于规则的工具调用奖励(见图 3)。
训练流程:四个阶段,三类反馈
我们的方法采用四个训练阶段,从三类信号中学习:演示、专家教师和可验证奖励。
从演示中学习(SFT)
我们首先在工具使用对话上进行全参数监督微调。这些对话包括来自模拟环境的多轮智能体轨迹、重放的单次、并行和多步调用,以及不应调用任何工具的情形。
从教师中学习(MOPD)
接下来,学生模型通过在线策略蒸馏(OPD)进行训练:它生成自己的回复,由专家教师对每个 token 提供反馈,并以逐 token 的反向 KL 散度作为训练信号。为构建这些教师模型,我们首先通过 RL 训练了三个 Qwen3.5-4B 模型,使其分别专精于工具使用、通用推理和指令遵循。训练期间,每个提示都会被路由到其中一位教师。这一阶段的主要目标是恢复在 SFT 阶段有所退化的知识和指令遵循能力,不过工具使用指标也有所提升(见图 4)。
从规则和环境中学习(RL 阶段)
最后,模型使用 DAPO [1] 进行强化学习训练,仅从规则和验证器计算出的奖励中学习。第一轮聚焦于工具调用,并辅以指令遵循和 STEM 多项选择题。与 Tool-N1 [2] 一样,工具调用奖励首先检查推理和工具调用格式。不过,它并未采用 Tool-N1 的二元正确性奖励,而是本着 ToolRL [3] 的精神给出细粒度的部分得分,将预测的工具名称、参数名称和参数值与真实值进行匹配。
第二轮将训练混合扩展到通用领域的可验证任务:数学、代码、知识(多项选择)题、指令遵循、结构化输出,以及模拟工作环境中的多步工具使用。尽管这一混合数据中不包含多轮对话,它仍进一步提升了多轮函数调用能力。
数据构成
每个训练阶段使用不同的数据混合(图 5)。SFT 阶段主要聚焦于工具使用,并为后续阶段奠定基础。MOPD 混合数据结合了工具使用、知识和指令遵循数据,既进一步提升函数调用能力,也恢复 SFT 阶段在通用领域出现的性能回退。第一轮 RL 阶段再次主要聚焦于工具使用,而第二轮 RL 阶段则将重心转向通用领域数据(指令遵循、知识、数学和代码),同时保留较小比例的工具使用数据。
结果
工具使用与智能体
BotPsy 的工具使用性能约为其 Qwen3.5-0.8B 基座的两倍,并且在六项智能体基准中的五项上都是五个模型中最强的:BFCL v4(44.0 对 23.4)、ACEBench(58.7 对 30.1)、τ-bench(51.5 对 23.2)、BrowseComp-Plus(4.5 对 1.9)和 ToolSandbox(64.6 对 30.5)。在这五项上,它也领先于参数量为其 2.5 倍的 Qwen3.5-2B-Think(分别为 37.7、55.4、46.5、2.8 和 41.2;见表 1)。在 Claw-Eval 上,Qwen3.5-2B-Think 领先(48.9 对 46.5)。
表 1:工具使用与智能体基准(0–100,越高越好)。每行最佳分数以粗体显示,次佳分数以下划线显示;倍数给出相对于 BotPsy-0.8B 的参数量。平均值为六项基准的未加权均值。评估设置详情见评估脚注。
知识
工具使用训练并未牺牲通用知识:GPQA Diamond 从 33.2 升至 38.1,MMLU-Pro 从 41.6 升至 48.9,在参数量不超过 1.2B 的模型中表现最佳(LFM2.5-1.2B-Think:35.0 和 39.4;MiniCPM5-1B-Think:15.8 和 40.0)。知识仍主要随参数量扩展,Qwen3.5-2B-Think 的得分远高于此(59.9 和 65.5)。因此,BotPsy 的设计目标是针对自己不知道的事实调用工具,而不是充当知识模型。
表 2:通用知识基准(0–100,越高越好)。每行最佳分数以粗体显示,次佳分数以下划线显示。评估设置详情见评估脚注。
指令遵循
BotPsy 是五个模型中遵循明确指令表现最好的:IFEval 90.8(基座 59.7;Qwen3.5-2B-Think 80.0)和 IFBench 55.9(基座 22.0;Qwen3.5-2B-Think 40.9)。在测试八种语言、三轮指令遵循的 Multi-IF 上,它得分为 67.2,与 Qwen3.5-2B-Think(66.9)和 LFM2.5-1.2B-Think(68.2)相当。它起步最强(第一轮 84.3,为五个模型中最高的),但随着指令累积下降更快(第三轮 51.0,而这两个模型分别为 56.5 和 56.2)。低资源语言仍是弱项:印地语(24.5)和俄语(57.6)远低于英语、中文、法语、西班牙语、意大利语和葡萄牙语达到的 72–80。
表 3:指令遵循基准(0–100,越高越好)。每行最佳分数以粗体显示,次佳分数以下划线显示。评估设置详情见评估脚注。
多轮对话
最大的相对提升出现在多轮、有状态交互中,BotPsy 在五项多轮基准中的四项上领先(图 6)。在 BFCL v4 多轮上,它从 7.5 升至 46.1,几乎是 Qwen3.5-2B-Think(23.8)的两倍;在 ACEBench Agent 上从 7.9 升至 28.3(Qwen3.5-2B-Think:16.2)。在 τ²-bench 上,它在零售领域将基座翻倍(67.8 对 33.9,略领先于 Qwen3.5-2B-Think 的 65.5),并在电信领域达到 82.5,在该领域智能体需要引导用户通过多轮排查解决问题(MiniCPM5-1B-Think:74.0;Qwen3.5-2B-Think:69.3)。它也是五个模型中最可靠的:单次调用(BFCL non-live:83.0),以及在没有合适工具时不调用工具(BFCL hallucination:86.1)。
薄弱环节
BotPsy 的薄弱环节是开放式搜索,以及少数几个 Qwen3.5-2B-Think 仍然领先的领域。BotPsy 的 BrowseComp-Plus 得分为 4.5,是五个模型中最好的,但绝对值偏低;在 BFCL web search(14.0)和 memory(16.3)上,它落后于 Qwen3.5-2B-Think(19.8 和 26.1)。在 Claw-Eval 上,BotPsy 较其基座有明显提升(46.5 对 39.3),但仍略低于 Qwen3.5-2B-Think(48.9)。在 ACEBench 的特殊情况(不完整或错误请求)上,Qwen3.5-2B-Think 也领先(58.0 对 51.3),尽管 BotPsy 在该项上远高于其基座(13.7)。τ³-banking 是 BotPsy 唯一未领先的多轮基准:没有模型得分超过 5(BotPsy 4.1,与其基座持平;Qwen3.5-2B-Think 4.8)。
适用场景:应用级性能细分
BotPsy 能够处理多种用例和场景。图 7 按应用组细分了基准场景,将简单场景(单轮、单次工具调用)与复杂场景(多轮或多工具)区分开来。本节引用的总体分数是所有场景的平均值;图 7 的底行是七个组的未加权平均值,因此其数字有所不同。
单次工具调用在各处都表现良好
在每个有足够样本的应用组中,简单场景得分均为 70–79(Communication & Social 仅有 6 个样本)。总体而言,BotPsy 得分为 75,比其基座模型(54)高约 21 分,并略高于 Qwen3.5-2B-Think(70)。
最大提升出现在多步任务中
在复杂场景上,BotPsy 总体得分为 39.5,而其基座为 17.9,Qwen3.5-2B-Think 为 30.8。提升最大的是 Communication & Social(61 对基座的 13)、Commerce & Services(58 对 27)和 Device & System Management(46 对 15)。Qwen3.5-2B-Think 仅在 Personal Productivity & Work 上领先(64 对 58,38 个场景,主要是 Claw-Eval),而 MiniCPM5-1B-Think 在 Communication & Social 上略领先(61.5 对 60.5)。多步任务的得分仍低于单次调用,这仍是更难任务的主要限制。
多步信息检索是薄弱环节
复杂的 Information Retrieval & Research 场景得分为 15(单次调用:79)。其中大多数是 BrowseComp-Plus 深度研究问题,对每个该规模区间的模型来说都仍然很难(基座:9;Qwen3.5-2B-Think:14)。
推理效率
BotPsy 以远少于其基座的推理量得出正确答案,并在多轮智能体任务中使用更少的轮次。这与我们在整个训练过程中对推理效率的明确关注相一致。以下所有比较均在相同的问题或任务上进行(即五个模型全部答对或解决的任务),因此难度差异不会影响这些数字。推理 token 使用各模型自己的分词器计数。
推理更短,准确率更高。与其基座相比,BotPsy 在 GPQA Diamond(3,690 对 11,563)、MMLU-Pro(1,912 对 5,105)、IFEval(3,148 对 4,433)和 IFBench(4,204 对 11,576)上每个正确答案使用的推理 token 少 1.4–3.1 倍,同时在四项上的得分都更高(图 8)。它并非在所有地方都是最短的模型:LFM2.5-1.2B-Think 在 MMLU-Pro、IFEval 和 IFBench 上写出的推理更短,MiniCPM5-1B-Think 在 IFEval 和 IFBench 上更短,但它们在每一项上的准确率都低于 BotPsy。
在多轮智能体任务上比基座使用更少的轮次。在五个模型全部解决的 τ²-bench 任务上,BotPsy 需要的助手轮次少于其基座(图 9):
τ²-retail:10.7 轮,而基座为 11.7 轮(少 9%),Qwen3.5-2B-Think 为 10.6 轮。
τ²-telecom:13.1 轮,而基座为 17.6 轮(少 26%),Qwen3.5-2B-Think 为 13.8 轮(少 5%)。
与此同时,它通过的任务数量是基座的 2.0 倍(零售)和 2.6 倍(电信)。MiniCPM5-1B-Think 在零售上使用更少的轮次(8.7),但仅通过 9.9% 的零售任务。
预期用途与局限性
BotPsy 的开发旨在推动技术前沿,并支持研究与教育用途。基于我们的工作所开发的模型可适用于以下领域的任务:设备与系统管理(设置、文件与文档、时钟与闹钟)、个人生产力与工作(日历与任务、电子邮件、协作工具)、通信(消息传递)、信息检索与研究(网络搜索、天气、新闻)、媒体与生活方式(视频、音乐、食谱与健身、照片)以及商业与服务(地图与出行、金融、购物与配送)。由于其参数规模较小,它最适合低至中等难度的任务。
BotPsy 主要使用英语进行训练和测试,英语是推荐使用的语言。它还在 Multi-IF 上进行了评估,该基准涵盖另外七种语言(中文、法语、印地语、意大利语、葡萄牙语、俄语和西班牙语):它在其中大多数语言上表现良好,但在印地语和俄语上的得分要低得多。BotPsy 是一个小型语言模型,会犯错。它不适用于安全关键或高风险的自动化决策,也不适用于涉及金钱、个人信息、健康及其他敏感主题的应用。
引用
参考文献
[1] Yu, Qiying, et al. "DAPO: An Open-Source LLM Reinforcement Learning System at Scale." Advances in Neural Information Processing Systems 38 (2025): 113222–113244.
[2] Zhang, Shaokun, et al. "Nemotron-Research-Tool-N1: Exploring Tool-Using Language Models with Reinforced Reasoning." International Conference on Learning Representations (2026).
[3] Qian, Cheng, et al. "ToolRL: Reward is All Tool Learning Needs." Advances in Neural Information Processing Systems 38 (2025).
评估脚注
所有分数均为百分比(越高越好)。
所有模型均在思考(推理)模式下进行了评估。
所有使用外部 API 的基准测试均于 2026 年 11 月 3 日运行。
¹ BFCL v4:总体得分使用官方加权公式计算(40% 智能体、30% 多轮、10% 实时、10% 非实时、10% 幻觉),取 3 次运行的平均值。
² ACEBench:总体准确率。所有模型均在函数调用(FC)模式下评估;取 2 次运行的平均值。
³ τ-bench:τ²-bench(零售、电信)与 τ³-bench(银行)的平均值,不含航空;取 3 次运行的平均值。
⁴ Claw-Eval:官方平均任务得分,其中每个任务得分为安全 ×(0.8 × 完成度 + 0.2 × 鲁棒性);取 3 次运行的平均值。
⁵ BrowseComp-Plus:准确率,所有模型最多 30 步。
⁶ ToolSandbox:8 项设置的平均相似度得分。
⁷ GPQA Diamond:全部 198 道题的准确率,取 3 次运行的平均值,启用思考模式。
⁸ MMLU-Pro:准确率。
⁹ IFEval、IFBench:提示级严格准确率。
¹⁰ Multi-IF:3 次运行的平均值。
更多来自该作者的内容