Mistral AI 详解 vLLM 内存泄漏排查:从 Heaptrack 到 BPFtrace 和 GDB 定位 UCX mmap 钩子
Mistral AI 团队排查 vLLM 在 P/D 分离部署下使用 Mistral Medium 3.1、开启图编译时每分钟约 400 MB 的内存泄漏。
推荐理由:原文完整记录从 pmap、BPFtrace 到 GDB 逐层定位泄漏的过程,可迁移到类似的内核级推理服务调试场景。
拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。
Mistral AI 团队排查 vLLM 在 P/D 分离部署下使用 Mistral Medium 3.1、开启图编译时每分钟约 400 MB 的内存泄漏。
推荐理由:原文完整记录从 pmap、BPFtrace 到 GDB 逐层定位泄漏的过程,可迁移到类似的内核级推理服务调试场景。