先了解这件事
AI 综述
2026年8月20日,NVIDIA发布recsys-examples与nv-embedding-cache,将推荐系统重构为序列建模,并提供HSTU和Semantic ID模型的生产级训练及推理实现。该工具栈整合DynamicEmb、Megatron-Core与分层嵌入缓存。NVIDIA披露,HSTU在两台DGX H100上将训练MFU从7.65%提升至31.40%,在理想的全GPU缓存命中场景下,推理最高加速2.38倍;面向Qwen3-1.7B的Semantic ID专用框架在H100上较SGLang beam search降低离线延迟2.14至2.27倍,并将在线吞吐提升1.85倍。
AI 根据公开报道生成
最新进展 · 正式报道
NVIDIA 如何用生成式推荐模型重塑大规模 RecSys事件进展
1 个已确认进展
- 来源：NVIDIA Developer · Generative AI
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
8月21日
NVIDIA Developer · Generative AI一手
NVIDIA 如何用生成式推荐模型重塑大规模 RecSys
NVIDIA 的 recsys-examples 仓库为 HSTU 和 Semantic ID 两类生成式推荐模型提供生产级训练与推理实现，并集成 DynamicEmb 动态嵌入表与 Megatron-Core 分布式并行。HSTU 推理结合 PyTorch AOTInductor、Triton Inference Server、nv-embedding-cache 和 FlexKV KV cache，在全 GPU 缓存命中场景下比 Python 后端最高提速 2.38x；Semantic ID 专用推理框架在 H100 上相比 SGLang beam search 离线延迟降低 2.14x 至 2.27x、在线吞吐提升 1.85x。