先了解这件事
2026年10月23日,Amazon SageMaker AI 在无服务器模型定制中新增训练会话 API。该 API 把 forward_backward()、optim_step()、sample() 等操作变成 API 调用,模型在 GPU 上保持加载,用户只需在本地 Python 进程里编写训练循环,GPU 分配、分布式执行、故障恢复和检查点存储由服务负责。该 API 按处理的 token 计费,本地奖励计算等环节不计 GPU 时间。随附的 cookbook 提供 SFT 与 RL 配方,示例中 GPT-OSS 20B 的 GRPO 循环在 GSM8K 上训练 10 步,留出集准确率从 56% 升至 75%;Code RL 配方训练 50 步后测试准确率从 40% 升至 50.5%。目前尚无后续发展。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源:AWS Machine Learning
报道与讨论时间线
按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。
10月23日
AWS Machine Learning一手
Amazon SageMaker AI 推出训练会话 API,可自写训练循环而无需管理 GPU
Amazon SageMaker AI 在无服务器模型定制中新增训练会话 API,把 forward_backward()、optim_step()、sample() 等操作变成 API 调用,模型在 GPU 上保持加载,用户只需在本地 Python 进程里编写训练循环,GPU 分配、分布式执行、故障恢复和检查点存储由服务负责。该 API 按处理的 token 计费,本地奖励计算等环节不计 GPU 时间。随附的 cookbook 提供 SFT 与 RL 配方,示例中 GPT-OSS 20B 的 GRPO 循环在 GSM8K 上训练 10 步,留出集准确率从 56% 升至 75%;Code RL 配方训练 50 步后测试准确率从 40% 升至 50.5%。