跳到正文
原文
Mistral AI·· 2026-01-22精选AI 评分62

Mistral AI 详解 vLLM 内存泄漏排查:从 Heaptrack 到 BPFtrace 和 GDB 定位 UCX mmap 钩子

Heaps do lie: debugging a memory leak in vLLM.

AI 导读

Mistral AI 团队排查 vLLM 在 P/D 分离部署下使用 Mistral Medium 3.1、开启图编译时每分钟约 400 MB 的内存泄漏。

推荐理由

原文完整记录从 pmap、BPFtrace 到 GDB 逐层定位泄漏的过程,可迁移到类似的内核级推理服务调试场景。

来源:Mistral AI · mistral.ai