先了解这件事
AI 综述
2026年10月15日,TypeLLM 开源了类型化 LLM 输出工具。据代表来源报道,TypeLLM 定位为可在一次 API 调用中执行整个工作流的模型,把整条流程写成一份 JSON Schema,并在单一共享上下文上按依赖图执行。该工具基于 SGLang 将 JSON Schema 转为约束解码,enum 或 boolean 只保留一个打分 token、数字限定位数,并复用缓存前缀,因此字段不会返回枚举外的值。官方称无需改动权重即可从现成 Qwen checkpoint 获得 schema 保证的输出。目前尚无后续发展事实。
AI 根据公开报道生成
最新进展 · 正式报道
TypeLLM 发布:用 JSON Schema 约束解码实现类型化 LLM 输出事件进展
1 个已确认进展
- 来源:Rohan Paul
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月15日
Rohan Paul
TypeLLM 发布:用 JSON Schema 约束解码实现类型化 LLM 输出
TypeLLM 发布,定位为可在一次 API 调用中执行整个工作流的模型,把整条流程写成一份 JSON Schema,并在单一共享上下文上按依赖图执行。它基于 SGLang 将 JSON Schema 转为约束解码,enum 或 boolean 只保留一个打分 token、数字限定位数,并复用缓存前缀,因此字段不会返回枚举外的值。官方称无需改动权重即可从现成 Qwen checkpoint 获得 schema 保证的输出。