AI News

Tether 发布 QVAC BotPsy-0.8B 端侧工具调用模型

Unite.AI更新于 11月12日 15:37

Tether Releases QVAC BotPsy for Tool-Using AI on Personal Devices

AI 导读

Tether AI Research 发布开源权重模型 QVAC BotPsy-0.8B,基于 Qwen3.5-0.8B 构建,专注个人设备上的函数调用与多步智能体工作流,并称在六项智能体基准上超过所有测试过的 1.2B 参数以内模型。BFCL v4 从基座的 23.4 升至 44.0,ACEBench 从 30.1 升至 58.7,ToolSandbox 从 30.5 升至 64.6,多轮 BFCL v4 为 46.1。GGUF 版本提供 BF16、Q8_0 和 Q4_K_M 三个文件,主仓库以 Apache 2.0 许可发布 BF16 safetensors 权重;模型卡同时说明其 GPQA Diamond 与 MMLU-Pro 得分低于 2B 模型,自动红队测试中不安全回复占比 21%。

推荐理由

AI 评分 64

原文给出了小参数模型在工具调用基准上的分项提升与安全短板,便于判断端侧智能体的能力边界。

主题

标签

正文 · AI 翻译

Tether AI Research 于 2026 年 11 月 11 日宣布发布 QVAC BotPsy-0.8B,这是一个开放权重的 0.8 亿参数模型,用于个人设备上的工具调用,并报告称其在六项智能体基准测试中优于所有测试过的、参数量不超过 12 亿的模型。

BotPsy 基于阿里巴巴的 Qwen3.5-0.8B 构建,专注于面向本地部署的函数调用和多步智能体工作流。其目标任务涵盖日历、消息、文件、设备设置、网络研究、旅行、商务和客户运营,低至中等难度的工作被认定为其最佳适用场景。周边应用提供服务连接、权限和执行控制。

在 Tether 的 ACEBench 示例中,一条消息因 Wi-Fi 关闭且收件箱已满而发送失败。BotPsy 先启用 Wi-Fi 并释放收件箱空间,然后发送消息,而其基础模型则重复了失败的操作。该模型还能识别出可用工具均不适合某项请求的情况,这对于在真实应用中行动的助手而言是一项重要行为。

专业化驱动基准提升

在 Tether 的模型卡评估中,BFCL v4 从 Qwen3.5-0.8B-Think 基座的 23.4 升至 BotPsy 的 44.0,ACEBench 从 30.1 升至 58.7,ToolSandbox 从 30.5 升至 64.6。BotPsy 还在六项智能体基准中的五项上击败了 Qwen3.5-2B-Think;更大的模型在 Claw-Eval 上以 48.9 对 46.5 领先。所有五个模型均在思考模式下使用共享测试框架进行评估,分数为百分比。

最大的提升在于跨轮次的连续性。Tether 报告 BotPsy 的 BFCL v4 多轮得分为 46.1,而其基座为 7.5,Qwen3.5-2B-Think 为 23.8。该测试衡量智能体能否在新信息到来时继续工作,例如检查可用性、处理冲突和更新日历。BotPsy 在 BFCL 幻觉测试中的 86.1 分衡量的是另一项要求:在没有可用工具适合时避免发起工具调用。

Tether 更广泛的结果并不能确立普遍优势。BotPsy 在 GPQA Diamond 和 MMLU-Pro 上的得分分别为 38.1 和 48.9,远低于 2B 模型的 59.9 和 65.5。BotPsy 的 BrowseComp-Plus 得分为 4.5,在五模型组中领先,但绝对值仍然偏低,暴露出开放式研究能力较弱。因此,BotPsy 的设计目标是针对它不知道的事实调用工具。

训练与端侧部署

一份技术说明描述了四个后训练阶段:监督微调、多教师同策略蒸馏,以及两轮强化学习。三个 Qwen3.5-4B 专家教师在蒸馏期间分别负责工具使用、通用推理和指令遵循。强化学习阶段使用基于规则和可验证的奖励,首先强调工具调用,然后加入更多数学、代码、知识和结构化输出工作。此次发布未包含训练代码和训练数据。

所得模型产生的推理轨迹也比其基座更短。在所有五个模型均正确回答的 GPQA Diamond 问题上,Tether 测得 BotPsy 的推理 token 数为 3,690,而其基座为 11,563;在 MMLU-Pro 上,这一数字分别为 1,912 和 5,105。由于每个模型都解决了这些问题,该比较隔离的是推理长度而非问题难度,为本地推理提供了一个有用的效率指标。

GGUF 版本为 llama.cpp 和 QVAC SDK 提供了三个文件:BF16 约 1.52 GB,Q8_0 约 0.81 GB,Q4_K_M 约 0.53 GB。Tether 推荐 Q8_0,因为它在十项基准上平均得分 50.7,接近 BF16 GGUF 的 50.4,而文件大小约为其一半。Q4_K_M 平均得分为 48.9,面向更紧张的内存预算。主仓库以 Apache 2.0 许可证提供 BF16 safetensors 权重。

安全限制与 QVAC 计划

模型卡的预期用途边界相当严格。BotPsy 主要用英语训练和测试,英语是推荐语言。其 Multi-IF 评估覆盖了另外七种语言,在印地语和俄语上产生的指令遵循结果要弱得多。BotPsy 会犯错,不适用于安全关键或高风险的自动化决策,也不适用于涉及金钱、个人信息、健康和其他敏感主题的应用。

在 Tether 覆盖六个危害类别的自动化红队测试中,BotPsy 有 21% 的时间产生不安全回复,而其基座为 36%。在提示注入攻击下——这对读取不可信工具输出的智能体而言尤其值得关注——报告的不安全率分别为 31% 和 46%。较小的模型在这两项测试上均有改善,但仍会生成不安全回复。

BotPsy 加入了 QVAC 的视觉、语音、健康和翻译模型,未来的开发计划将结合它们的专业化能力。“用户应当决定其助手可以访问什么,以及可以连接哪些外部服务,”Tether 首席执行官 Paolo Ardoino 表示。

Tether 的长期设计使用 Android 或 iPhone 界面进行日常交互,将高要求任务交给家用 PC 或可信的点对点节点,并通过加密的点对点连接路由网络查询。该系统是一项已声明的愿景;当前发布提供的是模型和部署文件。

BotPsy 有据可查的优势在于面向日常任务的专用本地操作层。它能否成为有用的个人助手,取决于应用层权限和执行控制,以及 Tether 计划中的集成和硬件委托能否解决本次发布中所记录的研究、复杂性和安全边界问题。

来源

Unite.AI