Perplexity 发布 Decider v1.3 与 Decider Flash v1.3 模型,新增原文片段抽取
Perplexity Releases Decider V1.3 Models with Text-Span Extraction
Perplexity 于 11 月 12 日发布 Decider v1.3 和 Decider Flash v1.3,新增逐字文本片段抽取能力,并以 Apache-2.0 协议开放权重下载。官方称较大模型在 63 项查询分类任务上平均准确率 91.6%,比其生产分类器高 6.54 个百分点。新 Locate 功能返回匹配文本及起止字符位置,可用于命名实体识别、个人信息检测和抽取式问答,无匹配时返回空列表;两个模型也可通过 OpenRouter 和 Perplexity 的 Decisions API 调用。
正文 · AI 翻译
Perplexity 于 2026 年 11 月 12 日发布 Decider v1.3 和 Decider Flash v1.3,新增逐字文本片段抽取能力,并提供可下载的 Apache-2.0 权重。该公司称,较大模型在 63 项查询分类任务上的平均准确率为 91.6%,这些任务的参考标签由前沿 LLM 独立重新标注,比其生产分类器高 6.54 个百分点。
新的 Locate 功能会返回精确匹配的文本及其起止字符位置,可用于命名实体识别、个人信息检测和抽取式问答;若无匹配,则返回空列表。两个模型也可通过 OpenRouter 和 Perplexity 的 Decisions API 调用。
Decider 针对是/否问题、自定义选项或有序评分返回概率,而不是生成散文式文本。应用可以针对同一段文本、JSON 或图像提出多个问题,并利用得到的数值进行分类、请求路由、内容审核、过滤、输出评估和重排序。这些任务通常需要决策阈值,而非自由形式的生成。
架构与训练变更
Decider 通过将下一 token 输出替换为在标记 token 处读取的决策头,来改造生成式骨干模型。该决策头仅从与答案选项 token 相关联的基础模型行开始。在 v1.3 中,Perplexity 将全注意力层改为双向,并将各问题彼此之间的直接注意力隔离,同时允许共享输入状态关注这些问题。这取代了 v1.2 中的安排——在 v1.2 中,答案可能因还提出了哪些其他问题而改变——旨在使答案更加稳定。
训练将数百个公开数据集转换为共享状态、问题、选项和目标格式。通用微调排除了基准训练集划分,Perplexity 表示它还移除了可能与其评估重叠的样本。后续的领域和视觉专业化使用 LoRA,这种方法在训练注入的秩分解矩阵时冻结预训练权重。Perplexity 使用加权适配器合并来控制漂移,并对文本阶段的三次运行权重取平均。
Flash 随后从较大模型蒸馏而来,使用 KL 散度来缩小其输出概率与教师模型之间的差异,而不是仅从金标准标签学习。Decider v1.3 模型卡指定 Qwen3.8-27B 骨干和约 49 GiB 的 BF16 权重;Decider Flash v1.3 模型卡指定 Qwen3.5-4B 和约 8.5 GiB。自托管任一模型都需要 CUDA GPU 以及超出权重之外的工作内存,因此 Flash 的硬件占用更小。
Locate 的服务限制
Locate 仅支持文本,每个请求最多 128 个 Locate 问题。将 Locate 与决策问题混合的请求需要为每种类型分别进行前向传递,与仅包含一种类型的请求相比会增加延迟。
Perplexity 保持 Locate 适配器不合并,因为合并它们会导致普通决策请求出现回退;它们仅在 Locate 请求时激活。该设计保留了现有的决策行为,但混合工作负载无法完全共享相同的计算。
评估与生产使用
Perplexity 的内部评估套件包含 200 多项任务,并以零样本方式运行,不进行任务特定的微调。它用私有生产任务和来自公开非基准数据集的留出评估来补充公开排行榜,以检查在熟悉评估套件之外的泛化能力。
在 72 项检索任务中,该公司报告零样本逐点重排序的平均 nDCG@10 为 83.99,其中每个查询-文档对独立评分,比 Qwen3-Reranker-8B 高 1.81 分。
为进行生产检查,Perplexity 从 API 上线最初 18 天中抽取了 100 万条去重且已屏蔽个人信息的 API 请求。该样本覆盖 2,318,887 个单独问题,均在用户明确许可用于研究的情况下纳入。前沿 LLM 评判器提供了参考答案,因为生产请求缺乏真实标签。
Perplexity 报告 v1.3 与这些评判器的一致率为 93.98%,而 v1.2 为 93.68%。差异不大,且该指标确立的是与模型生成参考的一致率,而非针对真实标签的准确率。
对于同一请求样本,Perplexity 报告 Decider v1.3 的成本为 26.47 美元,Flash 为 13.24 美元。Decider 在本地运行;该比较未说明本地硬件成本核算方式,也未提供匹配的延迟结果,因此这些数字描述的是此工作负载,而非普遍的成本或速度优势。
Perplexity 还离线使用 Decider 审查智能体安全日志,以发现遗漏的问题和误报。据报告,在一天内,它处理了 7,000 个智能体会话中的 10 亿个 token,并识别出缺陷,进而提出 14 项规则修复,其中六项在两天内获批并上线。用这些修复重放一周的日志后,最繁忙规则的处理量减少了 52%,而放宽后的规则多捕获了约 40% 值得调查的合法操作。
第二个内部系统存储关于强化学习失败和智能体解释的概率,使阈值无需新的 Decider 查询即可更改。它只观察和诊断,从不更改奖励或停止运行。Decider 还在同一次处理中评估受众、域名、有害或非法内容以及个人信息时,过滤低质量的抓取页面。
Perplexity 建议在具有代表性的标注示例上校准决策阈值,因为标签频率以及假阳性和假阴性的成本因应用而异。它将完整模型定位用于错误代价高昂的细微判断,将 Flash 定位用于受延迟和成本约束的高吞吐量工作。
因此,Decider 的广度伴随着部署负担:使其可跨任务复用的相同概率仍需要针对具体应用的阈值,而 Locate 新增的抽取能力为混合请求带来了额外计算。