跳到正文
AWS Machine Learning Blog· Vamsi Goparaju·· 2 小时前AI 评分35

Amazon SageMaker JumpStart:2026 年迄今回顾

Amazon SageMaker JumpStart: 2026 year-to-date in review

AI 导读

2026 年 1 月至 9 月,Amazon SageMaker JumpStart 新增超 100 个模型,覆盖 30 家提供商。贡献最多的是 Alibaba(Qwen)29 个模型、NVIDIA 17 个(含 Cosmos3 与 Nemotron 系列)、Mistral 7 个、Google Gemma 4 共 6 个。

正文 · AI 翻译

Amazon SageMaker JumpStart 是 Amazon SageMaker AI 中的机器学习(ML)中心,提供经过精选的 AI 模型、解决方案模板和示例笔记本目录。它缩短了从模型选择到部署所需的时间。你可以用它来评估开源大语言模型(LLM)、部署用于文档理解的视觉模型,或在自己的数据上微调小型模型。

SageMaker JumpStart 有三大主要用例:

  • 模型发现与评估——浏览来自 Alibaba(Qwen)、NVIDIA、Google、Mistral、Cohere、IBM 等提供商的数百个基础模型(FM)。每个模型卡片都包含架构细节、基准测试、许可信息和示例笔记本。
  • 一键部署——将你选择的模型部署到 SageMaker 实时推理端点,使用针对你的工作负载(低成本、低延迟、高吞吐量或均衡)优化的预配置设置。无需手动配置容器或实例。
  • 模型定制——直接从控制台或 SDK 使用低秩适应(LoRA)、监督微调(SFT)、直接偏好优化(DPO)和可验证奖励强化学习(RLVR)等技术微调模型。无服务器定制选项减少了基础设施管理工作。

你可以通过 SageMaker Studio 控制台(Models → JumpStart models)、通过 SageMaker Python SDK 以编程方式,或借助最近推出的深层链接集成直接从 Hugging Face 访问 SageMaker JumpStart。

2026 年新模型接入一览

从 2026 年 1 月到 9 月,SageMaker JumpStart 接入了来自 30 个不同提供商的 100 多个新模型。这代表了目录的大幅扩展,其驱动力是开源模型发布节奏的加快,以及客户对跨模型架构、规模和能力选择日益增长的需求。

以下是主要贡献方的细分情况,以及我们的 SageMaker JumpStart 页面链接:

  • Alibaba(Qwen):29 个模型,涵盖推理(Qwen 3.8-27B)、大规模专家混合(Qwen3.5-122B-A10B)、智能体工作流(Qwen-AgentWorld-35B-A3B)、代码生成(Qwen3-Coder-Next、Qwen 3 Coder 30B)、语音识别(Qwen3-ASR-1.7B)、文本转语音(Qwen3-TTS)、嵌入(Qwen3-VL-Embedding-2B)和重排序(Qwen3-Reranker-4B)。
  • NVIDIA:17 个模型,包括 Cosmos3 世界基础模型系列(Super、Edge、Nano)、Cosmos Reason 7B、MSA-Search、Nemotron 3.5 Lightning、Nemotron-3-Super-120B(FP8 和 BF16)、Nemotron3 Ultra、Nemotron-Nano-12B-v2、Nemotron 3 Nano Omni(多模态),以及用于视觉-语言任务的 Nemotron 3.5 Super VL。
  • Mistral:7 个模型,包括 Ministral-3 系列(3B、8B、14B 标准版和 BF16 版)以及用于语音的 Voxtral-Mini-4B-Realtime。
  • Google:6 个 Gemma 4 变体,包括 gemma-4-31B-it、E2B-it、E4B-it、26B-A4B-it、assistant 以及 NVFP4 量化版。
  • IBM:4 个模型,包括 Granite 4.0 h-micro/small/tiny 以及支持 6 种语言多语种自动语音识别(ASR)的 granite-speech-4.1-2b。
  • Cohere:4 个模型,包括 Command A(A100),以及用于检索增强的 Rerank v3.5、v4.0 Fast 和 v4.0 Pro。
  • 其他:来自 MiniMax、智谱 AI(GLM)、DeepSeek、月之暗面、Allen AI、Microsoft、Meta(Muse Spark)、Reflection(Beam)、Black Forest Labs、JetBrains、OpenBMB、BharatGenAI、Kakao、OpenFold 等的 33 个模型。

模型接入亮点

2026 年接入的模型体现了我们在扩展 SageMaker JumpStart 目录时的几项重点方向。这些不仅仅是行业趋势,更代表着我们看到客户需求强劲、并且在帮助客户于 SageMaker 上构建生产级 AI 应用方面存在重大机遇的领域。

扩展 NVIDIA 开源模型组合

NVIDIA 是我们重要的模型提供商之一,2026 年他们的贡献远不止语言模型。Cosmos3 世界基础模型提供 Super、Edge 和 Nano 三个级别,将视频生成、物理仿真和动作规划整合到单一架构中,适用于机器人、自主系统和数字孪生等物理 AI 应用。结合从高效边缘推理(Nano-12B)到大规模推理(Super-120B)的 Nemotron 模型系列,SageMaker JumpStart 现在提供了丰富的 NVIDIA 开源模型组合。如果您基于 NVIDIA 硬件构建应用,可以使用优化容器和预配置终端节点在 SageMaker 上部署这些模型。

弥补多模态差距

客户的工作负载日益需要能够处理文本以外内容的模型。2026 年,我们优先接入了原生支持视觉、语音和文档理解的模型。NVIDIA Nemotron 3 Nano Omni 在单一模型中处理文本、视觉和语音。Google Gemma 4 在多个规模上增加了视觉语言能力。IBM granite-speech-4.1-2b 支持六种语言的语音识别和翻译。Mistral Voxtral-Mini 支持实时语音理解。这些新增模型意味着客户在处理多模态工作负载时无需串联多个独立的预处理模型。

让创意 AI 触手可及

2026 年,图像和视频生成从小众走向主流。我们接入了 Black Forest Labs 的 FLUX.2 Small Decoder 和 FLUX.2-klein-base-4B 用于快速文本生成图像,Meta Muse-Glimmer-30B 用于多模态智能体工作流,以及 NVIDIA Cosmos3 用于视频生成。借助这些模型,您可以获得创意 AI 能力,并享受与语言模型相同的一键部署体验。

优先接入高效和量化模型

并非所有工作负载都需要前沿规模的模型,许多客户在迈向生产环境时专注于优化推理成本。我们接入了多个量化和紧凑模型:智谱 AI 的 GLM-5.2 FP8 在减少内存占用的同时提供强劲性能。JetBrains Mellum2-12B 采用混合专家架构,仅有 25 亿活跃参数即可完成代码生成。OpenBMB MiniCPM5-1B 将多模态能力浓缩进 10 亿参数之中。Microsoft Phi-4-mini-instruct 和 IBM Granite 4.0 h-tiny 证明紧凑模型可以在 ml.g5.xlarge 等实例类型上服务生产工作负载。这些模型可以针对特定用例优化延迟和总拥有成本(TCO)。

为特定任务接入专用模型

通用大语言模型(LLM)功能多样,但专门构建的模型则针对特定任务进行了优化。2026 年,我们引入了 Qwen-AgentWorld-35B-A3B,用于支持原生工具调用的自主 AI 工作流。GLM-OCR、LightOnOCR 和 DeepSeek-OCR 负责文档文本提取。Qwen3-Reranker-4B 和 Cohere Rerank v4.0 提升检索增强生成(RAG)管道中的检索精度。langcache-embed-v3-small 为语义搜索提供轻量级嵌入。Qwen3-ASR 和 Qwen3-TTS 带来语音识别与合成能力。OpenFold3 支持面向科学计算的蛋白质结构预测。借助这些模型,你可以构建每个阶段都使用专门工具来完成相应任务的管道,而不是强行让单一模型包揽一切。

拓宽提供商多样性

降低模型选择中的集中度风险对企业客户而言十分重要。2026 年,我们将目录扩展至 30 家提供商,相比此前几年更为集中的格局有了显著变化。Alibaba Qwen 是最大的贡献者,拥有 29 个模型,涵盖推理、编程、语音和检索。Zhipu AI 和 DeepSeek 提供了具有竞争力的 LLM 和专门的 OCR 模型。MiniMax 和 Moonshot AI 贡献了新兴架构。Cohere 带来了可靠的重排序能力。BharatGenAI 和 Kakao 扩展了区域模型覆盖。这种广度为客户在性能、成本、许可和语言支持方面提供了更多选择。

2026 年 SageMaker JumpStart 的增强功能

除了引入新模型之外,SageMaker JumpStart 在 2026 年还发布了多项重大改进,减少了从发现模型到部署的整个模型生命周期中的摩擦。

SageMaker AI 控制台上的简化版 Model Hub

以前,发现 SageMaker JumpStart 模型需要进入 SageMaker Studio,并在左侧导航栏中找到 SageMaker JumpStart 部分。全新的 Model Hub 体验将完整的 SageMaker JumpStart 目录直接呈现在 SageMaker AI 控制台着陆页上。你可以按类别浏览模型,并按输入/输出模态、发布方、模型大小、许可证和框架进行筛选。你还可以查看示例笔记本,并一键在 Studio 中打开模型。这避免了拖慢初次探索的多步骤导航。

预配置的端点部署选项

为模型部署选择合适的实例类型、服务容器和优化设置,通常需要在数十种组合之间进行手动基准测试。SageMaker JumpStart 现在提供命名的部署配置,其优化选项包括:

  • 均衡型 — 在成本、延迟和吞吐量之间实现均衡权衡,适用于通用工作负载。
  • 吞吐量优化型 — 使用投机解码(Speculative Decoding)等技术实现每秒最大 token 数,非常适合大批量批处理。
  • 延迟优化型 — 最低的首 token 时间(TTFT),优先保障交互式应用的速度。
  • 成本优化型 — 每次请求的基础设施成本最低,适合可以接受较高延迟的工作负载。

这些配置包括针对 AWS Inferentia 和 AWS Trainium 实例的 Neuron 优化设置,可降低部署复杂性和基础设施成本。你只需单击一下,即可使用合适的优化配置部署模型,而无需花费数周时间手动对各种配置进行基准测试。

Hugging Face 深度链接集成

与 Hugging Face 的新集成功能可将模型发现直接连接到 SageMaker Studio,适用于已接入的模型。在 Hugging Face 上浏览模型时,你可以选择在 SageMaker AI 上部署或在 SageMaker AI 上自定义并部署。你将直接进入一个已配置好的 Studio 环境,模型已预加载、权限已预先配置,并内置 GPU 配额可见性。这避免了在实验前设置 AWS Identity and Access Management (IAM) 角色、创建域或配置权限的必要。

入门

开始使用 SageMaker JumpStart 有三种方式:

  • SageMaker Studio 控制台——打开 SageMaker Studio,导航至 Models → JumpStart models,并浏览目录。选择一个模型查看其详细信息,然后选择部署或自定义。
  • SageMaker Python SDK——使用 SageMaker Python SDK 以编程方式部署模型。访问 SageMaker JumpStart 模型目录 获取 SDK 示例和部署指南。
  • Hugging Face 深层链接——浏览 HuggingFace Model Hub 并选择在 SageMaker AI 上部署,即可直接进入 Studio 使用已接入 SageMaker JumpStart 的模型。

SageMaker JumpStart 上的每个模型都包含部署配置、示例笔记本和文档。有关实际操作演练,请参阅我们的相关博客文章“使用 Amazon SageMaker JumpStart 部署和评估模型”。

结论

2026 年的前三个季度是 Amazon SageMaker JumpStart 取得重大进展的时期。随着来自 30 家提供商的 100 多个新模型接入,该目录现在涵盖了广泛的能力。其中包括前沿推理模型、多模态视觉语言模型、用于图像和视频生成的创意 AI、语音识别与合成、光学字符识别 (OCR) 和文档理解、用于 RAG 的嵌入和检索模型、智能体工作流模型,以及专门的科学计算模型。

这些接入优先事项反映了我们所见到的最强烈的客户需求以及在 AWS 上加速 AI 采用的最大机遇。它们包括扩展模型组合、弥合多模态差距、让创意 AI 触手可及、优先考虑效率和量化、接入专用模型,以及拓宽提供商的多样性。

结合简化的 Model Hub、预配置的部署选项以及 Hugging Face 深层链接集成等增强功能,SageMaker JumpStart 持续降低从模型发现到生产部署之间的门槛。访问 SageMaker JumpStart 模型目录 探索完整的模型阵容。

后续步骤

开始使用 SageMaker JumpStart 的方式有很多。亲自尝试以下方法之一吧!


关于作者

来源: AWS Machine Learning Blog · aws.amazon.com