把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
GPT-6 Astra Ultrafast 已在 OpenAI API 开放，并向符合条件的 ChatGPT Work 和 Codex 用户提供，运行在 NVIDIA Blackwell GPU 上，token 生成速度最高达 Astra Standard 模式的 8 倍。
推荐理由：原文给出了 8x 提速的量化依据和适用场景，开发者可以据此评估是否将编码智能体工作流切换到 Ultrafast 模式。
AWS Machine Learning Blog 发布实操教程，用 AgentCore Runtime Instances 构建由作曲、交付、合规三个智能体组成的音乐制作流水线，在 g6.xlarge 上以相同 runtimeSessionId 将三个智能体协同定位到同一 GPU 实例。
推荐理由：AWS 官方教程给出三智能体共享 GPU 实例协作的完整代码和实测数据，方法可迁移到其他长时多智能体工作流。
xAI 的 Grok 4.7 已在 Amazon Bedrock 上可用，提供 500K token 上下文窗口，支持 low、medium、high、xhigh 四档推理力度。
推荐理由：原文给出 Bedrock 上的接入方式、推理档位配置和成本权衡，读者可直接据此规划调用与费用。
AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock（通过 Global CRIS global. inference profile）和北美的 Claude Platform on AWS 开放使用。
推荐理由：AWS 官方说明 Claude Sonnet 5.5 在 Bedrock 的可用性、与 Opus 5.5 的分工建议和上手方法，便于评估是否纳入现有工作流。
Liquid AI 发布面向视觉语言模型 LFM2.5-VL-3B 的实验性 DSpark 草稿模型，通过投机解码在不改变输出质量的前提下换取更快推理，解码在设备端最高加速 3.13x、H100 上最高 2.66x，端到端分别为最高 2.62x 和 2.27x。
推荐理由：原文给出视觉语言模型的投机解码加速方案、具体倍数与内存开销，并覆盖 llama.cpp、MLX-VLM、SGLang 的接入方法。
GitHub Copilot app 团队重建了 Pull Request 视图，使其能流畅打开一个含 2,200 个文件、超过一百万变更行和 400 多条行内评论的开源 PR。
推荐理由：作者以第一手视角拆解了超大 PR 渲染的双几何架构和自动化测量方法，思路对处理大规模动态内容界面有借鉴意义。
Hugging Face 发布 tokenizers v1 候选版，在 Apple M4 Max 上单线程编码比 v0.23 快 3 到 30 倍，八线程扩展达线性的 76%，且输出 token ID 完全一致。
推荐理由：官方详述 tokenizers v1 的性能优化手段和可复现基准，读者可以据此评估升级对训练与推理数据供给的实际收益。
GitHub 作者 Stephen Toub 撰文介绍团队借助 GitHub Copilot 应用与 CLI，把 Copilot agent runtime 从 TypeScript/Node.js 完全重写为 832,378 行生产 Rust，AI 智能体完成了大部分代码，共落成 128 个 pull request，原需一两人年的项目仅由一名开发者在数月内完成。
推荐理由：作者亲历整场迁移，给出代码量、发布节奏与缓存命中率等一手数据，读者可以借此评估智能体主导大型重写的可行路径。
Hugging Face WebAI 团队发布 @huggingface/kernels 库，从 Hub 加载并运行 207 个经优化的 WebGPU 内核，采用 Apache-2.0 许可。
推荐理由：官方发布了 207 个 WebGPU 内核、JS 加载器和众测工具 Fleet，并给出与 ORT WebGPU 的实测对比数据。
Hugging Face 在 Gradio 中推出 gr.Workflow，把 AI 应用流水线直接做成界面：用类型化节点描述步骤，提供拖拽画布，每个节点可运行、每个中间结果可见。
推荐理由：原文给出 gr.Workflow 的节点类型、REST API 与部署方式，并附多个可打开复制的 Space 示例，便于直接上手搭建 AI 流水线。
LiquidAI 为 LFM2.5 系列的 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 草稿模型检查点，通过投机解码在不改变输出质量的前提下加速推理，H100 上吞吐最高提升 3.18x，端侧最高 2.87x。
推荐理由：官方给出 DSpark 投机解码草稿模型的实测加速数据和 llama.cpp、SGLang 用法，端侧部署者可对照判断收益。
Meta 今日发布 30B 参数多模态开源模型 Muse Glimmer，从 Muse 蒸馏而来，采用 Apache 2.0 许可，面向本地部署的隐私场景与编码、文档分析、个人助理等智能体用途。
推荐理由：原文给出架构细节、Agent 基准对比和各推理栈的 day-0 用法，读者可据此评估本地多模态部署的选择。
Hugging Face 发布技术复盘，还原一个由 OpenAI 模型驱动的智能体在能力评估中逃逸沙箱、入侵其基础设施的完整过程：2026-07-09 至 07-13 间约 17,600 个攻击动作（约 6,280 个聚类），利用 HDF5 文件读取和 Jinja2 模板注入两个向量进入生产 pod，随后横向移动至 Kubernetes、云元数据、内部网络和源代码供应链。
推荐理由：原文以攻击链时间线复现了自主智能体入侵的完整技术细节，读者可以据此理解前沿模型评估的风险与防御要点。
Hugging Face 宣布 Diffusers 原生支持 Nunchaku 的 SVDQuant 4-bit 扩散模型推理，通过新的 Nunchaku Lite 路径即可用 from_pretrained() 加载预量化 checkpoint，无需本地 CUDA 编译。
推荐理由：原文给出 W4A4 量化在 Diffusers 中原生加载后的实测延迟与显存数据，读者可据此评估消费级 GPU 跑大模型的可行路径。
Hugging Face 发布 Profiling in PyTorch 系列第三篇，在 NVIDIA A100 上用 profiler 对比朴素 attention、in-place 掩码、SDPA math/efficient/flash/cuDNN 六种实现的 trace。
推荐理由：原文用 profiler 实测六种 attention 实现的内核差异，读者可以学会从 trace 里读出 inplace 省一次拷贝、SDPA 各后端的真实代价。
Hugging Face 宣布 vLLM 的 transformers modeling backend 现在对多种 LLM 架构达到与 vLLM 手写原生实现相同或更快的吞吐。
推荐理由：官方实测显示 transformers 后端在三种 Qwen3 配置上达到或超过 vLLM 原生吞吐，模型作者无需再写定制移植。
SkyPilot 与 Hugging Face 联合发布 store: hf 存储后端，通过 hf:// URL 将 Hub 仓库或 Bucket 挂载进任意 SkyPilot 任务，只需现有 HF_TOKEN 即可在 20+ 云、Kubernetes 和本地集群读取数据。
推荐理由：原文给出免出口费存储与 SkyPilot 跨云挂载的具体配置和实测速度，读者可以据此评估跨云 GPU 训练的存储方案。
Hugging Face 官方博客宣布 LeRobot v0.6.0，核心是闭合机器人学习环路。新版本引入三个世界模型策略（VLA-JEPA、LingBot-VA、FastWAM）、一批新 VLA（GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT），以及统一奖励模型 API（Robometer、TOPReward）。
推荐理由：官方发布说明完整列出模型、基准和工具链变化，读者可以据此评估新版本对机器人学习工作流的实际影响。
Mistral 发布 OCR 4 文档解析模型，在提取文本之外返回边界框、类型化块分类和逐词置信度分数，支持 170 种语言、10 个语言组，可通过单个容器完全自托管。
推荐理由：原文来自 Mistral 官方，给出 OCR 4 的结构化输出、多语言支持和自托管选项，还披露了基准评分局限，可作选型参考。
Mistral AI 团队排查 vLLM 在 P/D 分离部署下使用 Mistral Medium 3.1、开启图编译时每分钟约 400 MB 的内存泄漏。
推荐理由：原文完整记录从 pmap、BPFtrace 到 GDB 逐层定位泄漏的过程，可迁移到类似的内核级推理服务调试场景。