先了解这件事
AI 综述
2025年10月22日,vLLM官方博客介绍其从v0.10.2起在OpenAI兼容API中新增`return_token_ids`参数。启用后,接口可在返回文本的同时提供输入对应的`prompt_token_ids`和生成结果对应的`token_ids`,避免推理文本在训练阶段重新分词时产生不同的Token序列。Agent Lightning v0.2会自动启用该参数,并通过追踪能力收集训练所需数据。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：vLLM 官方博客
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
10月22日
vLLM 官方博客一手
vLLM OpenAI 兼容 API 支持返回 token IDs，消除智能体强化学习的重新分词偏移
vLLM 从 v0.10.2 起为 OpenAI 兼容 API 增加 `return_token_ids` 参数，可随文本返回输入的 `prompt_token_ids` 和生成结果的 `token_ids`。该功能避免推理文本在训练时重新分词产生不同 token 序列，Agent Lightning v0.2 会自动启用参数并通过追踪能力收集训练所需数据。