←事件详情

热点事件

LMSYS 公开 Infer-forge 构建方法论

1 篇正式报道1 条事件动态更新于 8月28日 08:00

先了解这件事

AI 综述

2026年8月28日,LMSYS 发布 infer-forge 方法论文,公开其围绕 SGLang 的推理工程系统构建方法论。据 LMSYS Blog 介绍,该系统由 MonoRepo、Harness、Task Loop 和 Task Graph 四层结构组成,目标是让跨仓库的推理优化工作可复现、可验证。文章说明 infer-forge 属于内部工程系统,并非 SGLang 或 LMSYS 官方组件,目前不开源,公开的是构建方法论,供团队交给 AI 编码工具并结合自身系统上下文搭建适配实现。文中还给出使用记录:一位工程师 4 月至 7 月的在飞任务峰值从 2 个升至 9 个,DeepSeek-V4-Pro 服务项目中 38 个可独立验证的任务节点被组织成任务图。目前尚无后续发展事实。

AI 根据公开报道生成

最新进展 · 正式报道

LMSYS 公开 infer-forge:围绕 SGLang 的 Harness、Loop 与 Graph 工程方法

事件进展

1 个已确认进展

  1. LMSYS 公开 Infer-forge 构建方法论

    来源:LMSYS Blog

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

8月28日

  1. LMSYS Blog一手精选

    LMSYS 公开 infer-forge:围绕 SGLang 的 Harness、Loop 与 Graph 工程方法

    LMSYS 发布 infer-forge 方法论文,介绍围绕 SGLang 的推理工程系统,由 MonoRepo、Harness、Task Loop 和 Task Graph 四层结构组成,用于让跨仓库的推理优化工作可复现、可验证。该系统为内部工程系统,并非 SGLang 或 LMSYS 官方组件,目前不开源,文章公开的是构建方法论,供团队交给 AI 编码工具并结合自身系统上下文搭建适配实现。文中给出使用记录:一位工程师 4 月至 7 月的在飞任务峰值从 2 个升至 9 个,DeepSeek-V4-Pro 服务项目中 38 个可独立验证的任务节点被组织成任务图。

关联事件

  1. 相关事件Browser Use开源200个长时程RL环境
  2. 相关事件LMSYS 在 NVIDIA Vera Rubin 上跑通 SGLang 与 Miles
  3. 相关事件NVIDIA探索AI智能体材料仿真
  4. 相关事件NVIDIA开源GPU内核转换技能