范式智能联合睿思智联开源生产级 AI 部署平台模域 ModelSphere
范式智能联合睿思智联推出开源一站式 生产级 AI 部署平台 “模域ModelSphere”
范式智能与睿思智联于 10 月 16 日宣布一站式生产级 AI 部署平台模域（ModelSphere）正式上线，面向企业用户免费开源并已在 GitHub 开源。平台整合算力管理、模型部署与运行优化，内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存和高可用负载均衡，并称系统极限吞吐效率较基准提升约 285%。平台融合 EngineX 推理引擎，可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源。
正文
10月16日，北京 – 范式智能技术集团有限公司（“范式” 或“集团”，股票代码：6682.HK）联合北京睿思智联科技有限公司（“睿思智联”）宣布，一站式生产级 AI 部署平台“模域” (ModelSphere) 正式上线。该平台面向企业用户免费开源，将算力管理、模型部署和运行优化整合在统一平台，帮助企业降低部署与运维门槛，更高效地将算力转化为安全、稳定、可用于实际业务的AI服务。平台已在GitHub开源。
1.简化部署，保障模型服务稳定运行： 模域提供图形化操作面板和预置部署能力，减少环境配置代码的偏写，帮助开发者快速大模型搭建推理服务，并简化不同芯片集群的。平台内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存、高可用负载均衡及服务断流自动续写等企业级能力，支持模型服务在生产环境中稳定运行。
2.持续自动化调优，提高模型运行效率： 平台内置 AutoTune 智能模型排期策略，以及结合硬件加速能力的自适应负载均衡调度，优化模型处理请求的能力和首次响应速度，系统极限吞吐效率较基准大幅提升约 285%，性能跃升至原来4倍，真正实现了算力的“满血”释放。
3.统一管理多种芯片，减少重复适配： 平台融合 EngineX 推理引擎，支持并针对多种算力芯片进行深度调优，可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源，用户无需为不同芯片重写底层逻辑代码。
本文由范式提供，量子位获授权转载，观点归原作者所有。