Mistral AI 详解 vLLM 内存泄漏排查:从 Heaptrack 到 BPFtrace 和 GDB 定位 UCX mmap 钩子
Mistral AI 团队排查 vLLM 在 P/D 分离部署下使用 Mistral Medium 3.1、开启图编译时每分钟约 400 MB 的内存泄漏。
推荐理由:原文完整记录从 pmap、BPFtrace 到 GDB 逐层定位泄漏的过程,可迁移到类似的内核级推理服务调试场景。
Mistral AI 团队排查 vLLM 在 P/D 分离部署下使用 Mistral Medium 3.1、开启图编译时每分钟约 400 MB 的内存泄漏。
推荐理由:原文完整记录从 pmap、BPFtrace 到 GDB 逐层定位泄漏的过程,可迁移到类似的内核级推理服务调试场景。
Mistral AI 发布 Mistral OCR 3,在表单、扫描件、复杂表格和手写内容上对 Mistral OCR 2 的整体胜率为 74%。
推荐理由:原文给出了与 Mistral OCR 2 的对比胜率、定价和接入方式,读者可以据此评估文档解析方案的替换成本。
Mistral AI 发布开源编码模型家族 Devstral 2,包含 123B 的 Devstral 2(modified MIT 许可)和 24B 的 Devstral Small 2(Apache 2.0),两者均支持 256K 上下文窗口,分别在 SWE-bench Verified 上取得 72.2% 和 68.0%。
推荐理由:官方公布了两个尺寸编码模型的开源协议、SWE-bench Verified 成绩、API 定价和硬件要求,可据此评估本地或端侧部署的可行性。
Mistral 推出 Mistral AI Studio,一个面向企业的生产级 AI 平台,将 Mistral 自有大规模系统的基础设施打包给企业使用。
Mistral AI 宣布完成 17 亿欧元 Series C 融资,投后估值 117 亿欧元,由 ASML 领投,DST Global、Andreessen Horowitz、Bpifrance、General Catalyst、Index Ventures、Lightspeed 和 NVIDIA 参投。
推荐理由:官方宣布细节完整,可了解 ASML 战略入股背景和 Mistral AI 后续的工业级 AI 方向。
Mistral AI 发布教程,展示如何用 Mistral 微调 API 和 LaPlateforme UI,通过 LoRA 对 Pixtral-12B 在 Aerial Image Dataset (AID) 卫星图像分类任务上做领域微调。
Mistral AI 发布 Codestral 25.08 代码补全模型,并提供包含 Codestral Embed、Devstral 和 Mistral Code IDE 插件的企业编码栈。
Mistral AI 联合 Carbone 4 与法国 ADEME 完成其称业内首个 AI 模型全生命周期环境影响分析(LCA)。
推荐理由:原文给出 Mistral Large 2 训练与推理的环境足迹实测数据,为模型环境影响评估提供了具体参考方法。
Mistral AI 宣布推出 AI for Citizens 协作计划,帮助各国政府和公共机构战略性应用 AI、改造公共服务并保障数据主权。该计划基于开放、协作、选择与自主原则,提供从顶级模型到聊天和编程助手的产品组合,支持自托管、Mistral AI 及本地伙伴运营的 AI 数据中心或 SaaS/API 部署,并可定制模型联合训练与垂直化。
Mistral AI 发布 AI 基础设施服务 Mistral Compute,为客户提供私有、集成的 AI 栈,涵盖 GPU、编排、API 和产品服务,形态从裸金属服务器到全托管 PaaS。
Mistral 发布企业 AI 编码助手 Mistral Code,基于开源项目 Continue 构建,面向 JetBrains IDE 和 VSCode 开放私测,正式版即将推出。
Mistral AI 推出企业级 AI 助手 Le Chat Enterprise,由全新 Mistral Medium 3 模型驱动,功能将在未来两周内陆续上线。
Mistral AI 推出 TranscriptToPRDTicket 智能体工作流,可自动将会议记录转为 PRD 和可执行开发工单。该工作流由 PRDAgent 和 TicketCreationAgent 两个组件构成,均由 Mistral Large 2 驱动,可自动在 Linear、Jira 等项目管理工具中创建结构化工单。完整实现已通过 Google Colab notebook 提供。