←事件详情

热点事件

Ant Ling与NVIDIA优化Ling-3.0-flash单卡推理

1 篇正式报道1 条事件动态更新于 10月29日 13:41

先了解这件事

AI 综述

2026年10月29日,蚂蚁百灵(Ant Ling)与NVIDIA AI团队合作,在单台NVIDIA DGX Spark上对开放权重模型Ling-3.0-flash的推理进行优化,采用三种技术。在1,319道GSM8K题目上,解码吞吐从37.81 tok/s提升至53.89 tok/s(+42.5%),平均延迟从15.21s降至11.49s(-24.5%),准确率无统计上可检测的变化。目前尚无后续进展。

AI 根据公开报道生成

最新进展 · 正式报道

蚂蚁百灵与英伟达优化 Ling-3.0-flash 推理

事件进展

1 个已确认进展

  1. Ant Ling与NVIDIA优化Ling-3.0-flash单卡推理

    来源:蚂蚁百灵

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月29日

  1. 蚂蚁百灵

    蚂蚁百灵与英伟达优化 Ling-3.0-flash 推理

    蚂蚁百灵(Ant Ling)与 NVIDIA AI 团队合作,在单台 NVIDIA DGX Spark 上用三种技术优化了开放权重模型 Ling-3.0-flash 的推理。在 1,319 道 GSM8K 题目上,解码吞吐从 37.81 tok/s 提升至 53.89 tok/s(+42.5%),平均延迟从 15.21s 降至 11.49s(-24.5%),准确率无统计上可检测的变化。

关联事件

  1. 相关事件DeepSeek发布DeepSeek-V4.1-Flash-1017
  2. 相关事件Fireworks发表Kimi K3强化学习基础设施报告
  3. 相关事件Baseten用智能体优化推理引擎
  4. 相关事件Ubicloud启用vLLM约束解码提升工具调用准确率