←事件详情

热点事件

TensorZero验证程序化数据蒸馏

1 篇正式报道1 条事件动态更新于 10月9日 19:40

先了解这件事

AI 综述

2026年10月10日,TensorZero发布研究,评测并验证程序化数据筛选结合小模型微调可降低推理成本并保持或提升性能。研究用GPT-4.1生成的高质量对话微调Gemini 2.0 Flash/Flash Lite、GPT-4.1 mini/nano、GPT-4o mini和Qwen3-8B,在数据抽取、BabyAI导航、多跳RAG和τ-bench工具调用四类任务上评测,推理成本最多降低30倍、响应时间最多快4倍。研究还对比只保留成功轨迹的筛选数据与全量数据,发现筛选在数据抽取和多跳RAG上普遍提升表现,但在工具调用任务上Gemini模型反而用未筛选数据更好。博客给出基于TensorZero的微调与部署流程,并称无需GPU即可复现。

AI 根据公开报道生成

最新进展 · 正式报道

TensorZero 研究:程序化数据筛选蒸馏让小模型推理成本降低 5-30 倍

事件进展

1 个已确认进展

  1. TensorZero验证程序化数据蒸馏

    来源:TensorZero 工程博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月9日

  1. TensorZero 工程博客一手

    TensorZero 研究:程序化数据筛选蒸馏让小模型推理成本降低 5-30 倍

    TensorZero 工程博客发布研究,用 GPT-4.1 生成的高质量对话微调 Gemini 2.0 Flash/Flash Lite、GPT-4.1 mini/nano、GPT-4o mini 和 Qwen3-8B,在数据抽取、BabyAI 导航、多跳 RAG 和 τ-bench 工具调用四类任务上评测,推理成本最多降低 30 倍、响应时间最多快 4 倍。研究还对比了只保留成功轨迹的筛选数据与全量数据,发现筛选在数据抽取和多跳 RAG 上普遍提升表现,但在工具调用任务上 Gemini 模型反而用未筛选数据更好。博客给出了基于 TensorZero 的微调与部署流程,并称无需 GPU 即可复现。

关联事件

  1. 相关事件Anthropic发布Claude Opus 5.5
  2. 相关事件Anthropic 警告小型 AI 模型或将在 IoT 设备上自我复制
  3. 相关事件Artificial Analysis 发布 AA-Robotics v0.1 研究预览
  4. 相关事件Nvidia发布Nemotron 3.5 Super VL与Bolt模型