←事件详情

热点事件

硅基流动唐安波分享央国企大模型推理基础设施实践

1 篇正式报道1 条事件动态更新于 10月23日 16:32

先了解这件事

AI 综述

2026年10月23日,硅基流动唐安波在央国企 CIO 峰会上作主题分享《从“算力”到“Token 生产力”:央国企大模型规模化落地的推理基础设施与 ROI 实践》。据雷锋网同日报道,他在分享中提出 Token 生产力 = 产能 × 利用率 × 交付质量,并介绍通过模型网关、模型服务平台、高性能推理框架与算力调度四层解耦架构打通算力到 Token 的转化层。报道还提到,硅基流动与华为云推出基于国产芯片的 DeepSeek R1/V3 Token 服务,DeepSeek-R1 单卡 Decode 吞吐超 1,920 tokens/s;一家央国企集团将约 50 台机器上的四五十个模型实例收敛到约十个并改为 Serverless 调用后,Qwen 模型每百万 Token 成本从一百多元降至十元以下。目前该分享为单一来源报道,尚无后续进展。

AI 根据公开报道生成

最新进展 · 正式报道

硅基流动唐安波:以 Token 生产力公式助力央国企大模型规模化落地

事件进展

1 个已确认进展

  1. 硅基流动唐安波分享央国企大模型推理基础设施实践

    来源:雷锋网

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

10月23日

  1. 雷锋网

    硅基流动唐安波:以 Token 生产力公式助力央国企大模型规模化落地

    硅基流动在央国企 CIO 峰会上提出 Token 生产力 = 产能 × 利用率 × 交付质量,通过模型网关、模型服务平台、高性能推理框架与算力调度四层解耦架构打通算力到 Token 的转化层。其与华为云推出基于国产芯片的 DeepSeek R1/V3 Token 服务,DeepSeek-R1 单卡 Decode 吞吐超 1,920 tokens/s。一家央国企集团将约 50 台机器上的四五十个模型实例收敛到约十个并改为 Serverless 调用后,Qwen 模型每百万 Token 成本从一百多元降至十元以下。

关联事件

  1. 相关事件Musk称Tesla与SpaceX董事会设特别委员会讨论合并
  2. 相关事件DeepSeek开源推理框架DeepInfer
  3. 相关事件科大讯飞发布讯飞星火X2.6端云一体大模型
  4. 相关事件联想团队测试存算融合池化系统推理性能