先了解这件事
AI 综述
2026年10月10日,TensorZero发布研究,评测并验证程序化数据筛选结合小模型微调可降低推理成本并保持或提升性能。研究用GPT-4.1生成的高质量对话微调Gemini 2.0 Flash/Flash Lite、GPT-4.1 mini/nano、GPT-4o mini和Qwen3-8B,在数据抽取、BabyAI导航、多跳RAG和τ-bench工具调用四类任务上评测,推理成本最多降低30倍、响应时间最多快4倍。研究还对比只保留成功轨迹的筛选数据与全量数据,发现筛选在数据抽取和多跳RAG上普遍提升表现,但在工具调用任务上Gemini模型反而用未筛选数据更好。博客给出基于TensorZero的微调与部署流程,并称无需GPU即可复现。
AI 根据公开报道生成
最新进展 · 正式报道
TensorZero 研究:程序化数据筛选蒸馏让小模型推理成本降低 5-30 倍事件进展
1 个已确认进展
- 来源:TensorZero 工程博客
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月9日
TensorZero 工程博客一手
TensorZero 研究:程序化数据筛选蒸馏让小模型推理成本降低 5-30 倍
TensorZero 工程博客发布研究,用 GPT-4.1 生成的高质量对话微调 Gemini 2.0 Flash/Flash Lite、GPT-4.1 mini/nano、GPT-4o mini 和 Qwen3-8B,在数据抽取、BabyAI 导航、多跳 RAG 和 τ-bench 工具调用四类任务上评测,推理成本最多降低 30 倍、响应时间最多快 4 倍。研究还对比了只保留成功轨迹的筛选数据与全量数据,发现筛选在数据抽取和多跳 RAG 上普遍提升表现,但在工具调用任务上 Gemini 模型反而用未筛选数据更好。博客给出了基于 TensorZero 的微调与部署流程,并称无需 GPU 即可复现。