NVIDIA推出生成式推荐工具栈
2026年8月20日,NVIDIA发布recsys-examples与nv-embedding-cache,将推荐系统重构为序列建模,并提供HSTU和Semantic ID模型的生产级训练及推理实现。该工具栈整合DynamicEmb、Megatron-Core与分层嵌入缓存。NVIDIA披露,HSTU在两台DGX H100上将训练MFU从7.65%提升至31.40%,在理想的全GPU缓存命中场景下,推理最高加速2.38倍;面向Qwen3-1.7B的Semantic ID专用框架在H100上较SGLang beam search降低离线延迟2.14至2.27倍,并将在线吞吐提升1.85倍。
匹配字段标题