// AI 新闻 · 2026-11-07 · AWS Machine Learning Blog
SageMaker Inference支持GPU分区以提升资源利用率
亚马逊AWS于近期更新Amazon SageMaker Inference服务，新增对NVIDIA多实例GPU（MIG）的支持，可将单个GPU划分为多个硬件隔离的分区，使用户能在同一物理GPU上部署多个独立模型。该功能基于推理组件实现，允许每个分区分配独立的计算单元和内存资源，从而突破传统全GPU部署的容量限制。
原文发布 2026-11-07 02:01（北京时间）来源 AWS Machine Learning Blog自动整理 · 已核对原文
01摘要
新方案解决了现有架构中因必须使用整块GPU导致的资源浪费问题：当模型数量超过可用加速器数量时，无法高效部署；而使用全尺寸GPU又可能造成能力过剩或服务不足。MIG通过硬件级隔离实现模型间互不干扰，支持按需选择合适容量的GPU切片，提升并发处理能力与资源利用率，同时保障低延迟、故障隔离和冷启动性能，适用于多模型、高并发场景。
由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。
02要点
- SageMaker Inference支持通过NVIDIA MIG将单个GPU划分为多个硬件隔离分区，实现更细粒度的资源分配。
- 用户可部署多于物理GPU数量的模型，每个模型拥有独立计算与内存资源，避免资源浪费和模型间干扰。
- MIG提供硬件级故障隔离、低延迟保障及无冷启动，提升服务稳定性与响应效率。
- 该功能无需自建Kubernetes环境，SageMaker AI自动完成GPU配置、调度与管理，降低运维复杂度。
03原文出处
SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints
AWS Machine Learning Blog · 发布于 2026-11-07 02:01（北京时间） · 上方为原标题
05相关新闻
- 同来源 · 亚马逊为Quick智能体构建 primitives 分类体系2026-11-07 · AWS Machine Learning Blog
- 同来源 · 通过Okta与Amazon Bedrock AgentCore实现企业级AI代理访问控制2026-11-07 · AWS Machine Learning Blog
- 同主题 · NVIDIA 推出 Reshard 集体通信优化 RL 权重迁移2026-11-07 · NVIDIA
- 同主题 · NVIDIA开源工具助力全球研究人员构建下一代6G网络2026-11-07 · NVIDIA Newsroom
- 同日 · 中期选举结果或重塑AI行业格局2026-11-07 · TechCrunch AI
出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 2026-11-07 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日