跳到正文
原文
Hugging Face Blog·· 2026-08-21精选AI 评分66

LiquidAI 发布 LFM2.5-DSpark 草稿模型,推理最高提速 3.18x

Up to 3.2x Faster Inference with LFM2.5-DSpark

AI 导读

LiquidAI 为 LFM2.5 系列的 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点,通过投机解码在不改变输出质量的前提下加速推理,H100 上吞吐最高提升 3.18x,端侧最高 2.87x。

推荐理由

官方给出 DSpark 投机解码草稿模型的实测加速数据和 llama.cpp、SGLang 用法,端侧部署者可对照判断收益。

来源:Hugging Face Blog · huggingface.co