AWS Machine Learning

Amazon SageMaker JumpStart:2026年迄今回顾

AWS回顾2026年前三季度SageMaker JumpStart新增超100个模型、来自30家提供商,并推出简化的Model Hub、预配置一键部署和Hugging Face深度链接。内容为官方平台盘点,未附独立评测。

配图来源 · AWS Machine Learning

Amazon SageMaker JumpStart是Amazon SageMaker AI中的一个机器学习(ML)中心,提供对经过精选的AI模型、解决方案模板和示例笔记本目录的访问。它缩短了从模型选择到部署所需的时间。您可以用它来评估开源大语言模型(LLM)、部署用于文档理解的视觉模型,或使用自己的数据对紧凑模型进行微调。

SageMaker JumpStart服务三大主要用例:

  • 模型发现与评估 — 浏览来自Alibaba(Qwen)、NVIDIA、Google、Mistral、Cohere、IBM等提供商的数百个基础模型(FM)。每个模型卡片包含架构细节、基准测试、许可信息和示例笔记本。
  • 一键部署 — 通过针对您的工作负载优化的预配置设置(低成本、低延迟、高吞吐量或均衡),将您选择的模型部署到SageMaker实时推理端点。无需手动配置容器或实例。
  • 模型定制 — 直接通过控制台或SDK使用低秩适应(LoRA)、监督微调(SFT)、直接偏好优化(DPO)和可验证奖励强化学习(RLVR)等技术对模型进行微调。无服务器定制选项减少了基础设施管理。

您可以通过SageMaker Studio控制台(Models → JumpStart models)、通过SageMaker Python SDK以编程方式,或使用最近推出的深度链接集成直接从Hugging Face访问SageMaker JumpStart。

2026年上线概览

从2026年1月到9月,SageMaker JumpStart上线了来自30个不同提供商的超过100个新模型。这代表了目录的显著扩展,其驱动力是开源模型发布步伐的加快以及客户对跨模型架构、规模和能力的更多选择的需求不断增长。

以下是主要贡献者的细分情况以及我们的链接: SageMaker JumpStart页面:

  • Alibaba(Qwen): 29个模型 涵盖推理(Qwen 3.8-27B)、大规模混合专家(Qwen3.5-122B-A10B)、智能体工作流(Qwen-AgentWorld-35B-A3B)、代码生成(Qwen3-Coder-Next、Qwen 3 Coder 30B)、语音识别(Qwen3-ASR-1.7B)、文本转语音(Qwen3-TTS)、嵌入(Qwen3-VL-Embedding-2B)和重排序(Qwen3-Reranker-4B)。
  • NVIDIA: 17个模型,包括Cosmos3世界基础模型系列(Super、Edge、Nano)、Cosmos Reason 7B、MSA-Search、 Nemotron 3.5 Lightning、Nemotron-3-Super-120B(FP8和BF16)、Nemotron3 Ultra、Nemotron-Nano-12B-v2、 Nemotron 3 Nano Omni(多模态),以及用于视觉-语言的 Nemotron 3.5 Super VL 。
  • Mistral: 7个模型,包括Ministral-3系列(3B、8B、14B标准版和BF16版)以及用于语音的Voxtral-Mini-4B-Realtime。
  • Google: 6个Gemma 4变体,包括gemma-4-31B-it、E2B-it、E4B-it、26B-A4B-it、assistant和NVFP4量化版。
  • IBM: 4个模型,包括Granite 4.0 h-micro/small/tiny以及支持6种语言的多语言自动语音识别(ASR)的granite-speech-4.1-2b。
  • Cohere: 4个模型,包括Command A(A100)以及用于检索增强的Rerank v3.5、v4.0 Fast和v4.0 Pro。
  • 其他: 来自MiniMax、智谱AI(GLM)、DeepSeek、月之暗面(Moonshot AI)、Allen AI、微软的33个模型, Meta(Muse Spark), Reflection(Beam)、Black Forest Labs、JetBrains、OpenBMB、BharatGenAI、Kakao、OpenFold等。

模型接入亮点

2026年接入的模型体现了我们在扩展SageMaker JumpStart目录时的几项重点方向。这些不仅是行业趋势,更代表了我们看到客户需求旺盛、且有机会帮助客户在SageMaker上构建生产级AI应用的关键领域。

扩展NVIDIA开放模型组合

NVIDIA 是我们重要的模型提供商之一,2026 年他们的贡献远远超出了语言模型。Cosmos3 世界基础模型提供 Super、Edge 和 Nano 三个层级,将视频生成、物理仿真和动作规划整合到单一架构中,适用于机器人、自主系统和数字孪生等物理 AI 应用。再加上从高效边缘推理(Nano-12B)到大规模推理(Super-120B)的 Nemotron 模型系列,SageMaker JumpStart 现在提供广泛的 NVIDIA 开源模型组合。如果您在 NVIDIA 硬件上构建,可以使用经过优化的容器和预配置的端点在 SageMaker 上部署这些模型。

弥合多模态差距

客户工作负载日益需要处理文本以外内容的模型。2026 年,我们优先引入了原生支持视觉、语音和文档理解的模型。NVIDIA Nemotron 3 Nano Omni 在单一模型中处理文本、视觉和语音。Google Gemma 4 在多种尺寸上增加了视觉语言能力。IBM granite-speech-4.1-2b 支持六种语言的语音识别和翻译。Mistral Voxtral-Mini 支持实时语音理解。这些新增模型让客户无需为多模态工作负载串联多个独立的预处理模型。

让创意 AI 触手可及

2026 年,图像和视频生成从小众走向主流。我们引入了 Black Forest Labs 的 FLUX.2 Small Decoder 和 FLUX.2-klein-base-4B 用于快速文本到图像生成,Meta 的 Muse-Glimmer-30B 用于多模态智能体工作流,以及 NVIDIA Cosmos3 用于视频生成。借助这些模型,您可以使用与语言模型相同的一键部署体验来访问创意 AI 能力。

优先引入高效和量化模型

并非每个工作负载都需要前沿规模的模型,许多客户在走向生产环境时专注于优化推理成本。我们引入了多个量化和紧凑模型:Zhipu AI GLM-5.2 FP8 以更小的内存占用提供强劲性能。JetBrains Mellum2-12B 采用混合专家架构,仅使用 2.5B 激活参数即可进行代码生成。OpenBMB MiniCPM5-1B 将多模态能力压缩进 1 billion 参数。Microsoft Phi-4-mini-instruct 和 IBM Granite 4.0 h-tiny 证明紧凑模型可以在 ml.g5.xlarge 等实例类型上服务生产工作负载。这些模型可以针对特定用例优化延迟和总拥有成本(TCO)。

为特定任务引入专用模型

通用 LLM 用途广泛,但专用模型针对特定任务进行了优化。2026 年,我们引入了 Qwen-AgentWorld-35B-A3B,用于支持原生工具调用的自主 AI 工作流。GLM-OCR、LightOnOCR 和 DeepSeek-OCR 处理文档文本提取。Qwen3-Reranker-4B 和 Cohere Rerank v4.0 提升检索增强生成(RAG)管道中的检索精度。langcache-embed-v3-small 为语义搜索提供轻量级嵌入。Qwen3-ASR 和 Qwen3-TTS 带来语音识别和合成。OpenFold3 支持科学计算中的蛋白质结构预测。借助这些模型,您可以构建每个阶段都使用最适合该任务的专业工具的管道,而不是强迫单一模型包揽一切。

拓展提供商多样性

降低模型选择中的集中度风险对企业客户非常重要。2026 年,我们将目录扩展到 30 家提供商,较往年的集中化组合显著增加。Alibaba Qwen 是最大的单一贡献者,提供 29 个模型,涵盖推理、编码、语音和检索。Zhipu AI 和 DeepSeek 增加了有竞争力的 LLM 和专用 OCR。MiniMax 和 Moonshot AI 贡献了新兴架构。Cohere 带来可靠的重排序。BharatGenAI 和 Kakao 扩展了区域模型覆盖。这种广度为客户在性能、成本、许可和语言支持方面提供了更多选择。

2026 年 SageMaker JumpStart 的增强功能

除了模型引入之外,SageMaker JumpStart 在 2026 年还发布了重大改进,减少了从发现到部署的模型生命周期各环节的阻力。

SageMaker AI 控制台上的简化版 Model Hub

此前,发现 SageMaker JumpStart 模型需要导航进入 SageMaker Studio,并在左侧导航中找到 SageMaker JumpStart 部分。全新的 Model Hub 体验将完整的 SageMaker JumpStart 目录直接呈现在 SageMaker AI 控制台着陆页上。您可以按类别浏览模型,并按输入/输出模态、发布者、模型大小、许可证和框架进行筛选。您还可以查看示例笔记本,并一键在 Studio 中打开模型。这避免了拖慢初次探索的多步导航。

预配置的端点部署选项

为模型部署选择合适的实例类型、服务容器和优化设置,通常需要跨数十种组合进行手动基准测试。SageMaker JumpStart 现在提供命名的部署配置,并带有以下优化选项:

  • 均衡型 —— 在成本、延迟和吞吐量之间为通用工作负载提供均衡权衡。
  • 吞吐量优化型 —— 使用推测解码(Speculative Decoding)等技术实现最大每秒 token 数,非常适合大批量批处理。
  • 延迟优化型 —— 最低的首 token 时间(TTFT),优先保障交互式应用的速度。
  • 成本优化型 —— 每次请求的基础设施成本最低,适合可以接受较高延迟的工作负载。

这些配置包括针对 AWS Inferentia 和 AWS Trainium 实例的 Neuron 优化设置,可降低部署复杂性和基础设施成本。您只需一键即可部署模型并应用正确的优化配置,而无需花费数周时间手动对配置进行基准测试。

Hugging Face 深度链接集成

一项与 Hugging Face 的新集成将模型发现直接连接到 SageMaker Studio,适用于已接入的模型。在 Hugging Face 上浏览模型时,您可以选择 Deploy on SageMaker AI 或 Customize and Deploy on SageMaker AI。您将直接进入一个已配置好的 Studio 环境,模型已预加载、权限已预先配置,并内置 GPU 配额可见性。这避免了在实验之前设置 AWS Identity and Access Management (IAM) 角色、创建域或配置权限的需要。

入门

开始使用 SageMaker JumpStart 有三种方式:

  • SageMaker Studio 控制台 — 打开 SageMaker Studio,导航到 Models → JumpStart models,然后浏览目录。选择一个模型查看其详细信息,然后选择 Deploy 或 Customize.
  • SageMaker Python SDK — 使用 SageMaker Python SDK 以编程方式部署模型。访问 SageMaker JumpStart 模型目录 获取 SDK 示例和部署指南。
  • Hugging Face 深度链接 — 浏览 HuggingFace Model Hub 并选择 Deploy on SageMaker AI 直接进入 Studio 以使用 SageMaker JumpStart 已接入的模型。

SageMaker JumpStart 上的每个模型都包含部署配置、示例笔记本和文档。如需动手演练,请参阅我们的相关博客文章“使用 Amazon SageMaker JumpStart 部署和评估模型”.

结论

2026 年的前三个季度是 Amazon SageMaker JumpStart 取得重大进展的时期。随着来自 30 个提供商的超过 100 个新模型接入,该目录现已涵盖广泛的能力。这些包括前沿推理模型、多模态视觉语言模型、用于图像和视频生成的创意 AI、语音识别与合成、光学字符识别 (OCR) 和文档理解、用于 RAG 的嵌入和检索模型、代理工作流模型,以及专用科学计算模型。

这些接入优先事项反映了我们所看到的最强客户需求以及在 AWS 上加速 AI 采用的最大机会。它们包括扩展产品组合、弥补多模态差距、让创意 AI 触手可及、优先考虑效率和量化、接入专用模型,以及扩大提供商多样性。

结合简化的 Model Hub、预配置的部署选项以及 Hugging Face 深度链接集成等增强功能,SageMaker JumpStart 持续降低模型发现与生产部署之间的门槛。访问 SageMaker JumpStart 模型目录 探索完整的阵容。

后续步骤

开始使用 SageMaker JumpStart 有很多方式。亲自尝试其中之一吧!

 


关于作者

原始出处

AWS Machine Learning

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准