←事件详情

热点事件

vLLM详解CUDA核心转储调试

1 篇正式报道1 条事件动态更新于 8月11日 08:00

先了解这件事

AI 综述

2025年8月11日,vLLM官方博客介绍了利用CUDA核心转储排查内存访问问题的方法:在发生非法内存访问时保存GPU状态,再通过cuda-gdb定位出错的CUDA kernel。文章给出了推荐的环境变量组合,并演示普通kernel启动及CUDA graph内部异常的定位流程,同时说明该方案对生产环境性能的影响、无法触发转储的错误类型以及调试符号配置。

AI 根据公开报道生成

最新进展 · 正式报道

vLLM 使用 CUDA Core Dump 调试非法内存访问问题

事件进展

1 个已确认进展

  1. vLLM介绍CUDA核心转储调试

    来源:vLLM 官方博客

报道与讨论时间线

按时间查看正式报道与传播讨论;两类内容的证据等级保持独立。

8月11日

  1. vLLM 官方博客一手

    vLLM 使用 CUDA Core Dump 调试非法内存访问问题

    vLLM 介绍了如何启用 CUDA core dump,在非法内存访问发生时保存 GPU 状态,并用 cuda-gdb 定位出错的 CUDA kernel。文章给出推荐的环境变量组合,演示其定位普通 kernel 启动和 CUDA graph 内异常的流程,并说明生产环境性能影响、无法触发转储的错误类型及调试符号配置。

关联事件

  1. 相关事件vLLM接入GLM-4.5系列
  2. 相关事件vLLM深化编译优化推理
  3. 相关事件vLLM详解高吞吐推理架构
  4. 相关事件vLLM适配MiniMax-M1