Mistral AI·· 2026-01-22精选AI 评分62
Mistral AI 详解 vLLM 内存泄漏排查:从 Heaptrack 到 BPFtrace 和 GDB 定位 UCX mmap 钩子
Heaps do lie: debugging a memory leak in vLLM.
AI 导读
Mistral AI 团队排查 vLLM 在 P/D 分离部署下使用 Mistral Medium 3.1、开启图编译时每分钟约 400 MB 的内存泄漏。
推荐理由
原文完整记录从 pmap、BPFtrace 到 GDB 逐层定位泄漏的过程,可迁移到类似的内核级推理服务调试场景。
来源:Mistral AI · mistral.ai