Thinking Machines 发布万亿参数开源多模态模型 Inkling 及 Inkling-Small
Thinking Machines 在 Hugging Face 发布开源多模态模型 Inkling,总参数约 1T(975B,激活 41B 的 MoE),原生接收图像、文本和音频输入,支持 1M 上下文,训练数据为 45 万亿 token,包含 BF16 和 NVFP4 权重。
推荐理由:官方博客给出架构细节、各档位 VRAM 需求和部署配置,读者可以据此评估多模态部署成本与选型。
Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。
Thinking Machines 在 Hugging Face 发布开源多模态模型 Inkling,总参数约 1T(975B,激活 41B 的 MoE),原生接收图像、文本和音频输入,支持 1M 上下文,训练数据为 45 万亿 token,包含 BF16 和 NVFP4 权重。
推荐理由:官方博客给出架构细节、各档位 VRAM 需求和部署配置,读者可以据此评估多模态部署成本与选型。
Hugging Face 发布 Profiling in PyTorch 系列第三篇,在 NVIDIA A100 上用 profiler 对比朴素 attention、in-place 掩码、SDPA math/efficient/flash/cuDNN 六种实现的 trace。
推荐理由:原文用 profiler 实测六种 attention 实现的内核差异,读者可以学会从 trace 里读出 inplace 省一次拷贝、SDPA 各后端的真实代价。
Hugging Face 宣布 vLLM 的 transformers modeling backend 现在对多种 LLM 架构达到与 vLLM 手写原生实现相同或更快的吞吐。
推荐理由:官方实测显示 transformers 后端在三种 Qwen3 配置上达到或超过 vLLM 原生吞吐,模型作者无需再写定制移植。
SkyPilot 与 Hugging Face 联合发布 store: hf 存储后端,通过 hf:// URL 将 Hub 仓库或 Bucket 挂载进任意 SkyPilot 任务,只需现有 HF_TOKEN 即可在 20+ 云、Kubernetes 和本地集群读取数据。
推荐理由:原文给出免出口费存储与 SkyPilot 跨云挂载的具体配置和实测速度,读者可以据此评估跨云 GPU 训练的存储方案。
Hugging Face 官方博客宣布 LeRobot v0.6.0,核心是闭合机器人学习环路。新版本引入三个世界模型策略(VLA-JEPA、LingBot-VA、FastWAM)、一批新 VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT),以及统一奖励模型 API(Robometer、TOPReward)。
推荐理由:官方发布说明完整列出模型、基准和工具链变化,读者可以据此评估新版本对机器人学习工作流的实际影响。
Hugging Face 与 Cerebras 联合展示了一套实时语音到语音架构:语音输入经 Nvidia 的 Parakeet 做语音识别,由 Cerebras 上运行的 Google DeepMind Gemma 4 31B 完成推理,再用 Alibaba 的 Qwen3TTS 合成语音输出。
推荐理由:原文给出完整的开源语音到语音技术栈和各层组件,开发者可以据此搭建或替换自己的实时语音 AI 流水线。