// AI 新闻 · 2026-10-28 · NVIDIA
NVIDIA 推出 GPU 分片共享方案支持 Kubernetes
NVIDIA 与 KAI Scheduler 团队联合推出 GPU 分片共享方案,通过新开源的 GPU Fractioning Operator 实现对 Kubernetes 集群中 GPU 资源的精细化管理。该方案在每台 GPU 节点上部署 Multi-Process Service(MPS),并结合 CUDA 13.4 的内存边界控制能力,为每个工作负载设定明确的内存限制和计算模式,实现按需分配、透明隔离的 GPU 分片使用。
原文发布 2026-10-28 04:50(北京时间)来源 NVIDIA自动整理 · 已核对原文
01摘要
CUDA 13.4 新增时间分片与 sm-sharing 计算模式,支持精确内存请求、可扩展上限及最小保障值。GPU Fractioning Operator 负责在节点层面设置 MPS、应用容器级内存和计算模式限制,并实时监控各分片的实际资源使用情况,确保调度器分配后资源被正确执行和报告。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- GPU Fractioning Operator 作为开源组件运行于 KAI Scheduler 组织下,与 NVIDIA GPU Operator 协同部署。
- CUDA 13.4 提供透明的内存边界控制,支持精确内存请求、可扩展上限及计算模式选择。
- KAI Scheduler v0.18.0 引入 NvFractions 模式,通过 Pod 注解将工作负载的内存需求、计算模式和 GPU 分配传递给节点端执行。
- 工作负载通过标准 Kubernetes 注解声明内存大小、增长上限、计算共享方式及跨 GPU 数量,实现细粒度资源控制。
03原文出处
Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4
NVIDIA · 发布于 2026-10-28 04:50(北京时间) · 上方为原标题
05同主题新闻
- NVIDIA RTX Spark 推出 AI 渲染与智能角色技术2026-10-28 · NVIDIA
- NVIDIA与Oracle扩展Vera Rubin至多吉瓦特规模并推出Vera CPU于OCI2026-10-28 · NVIDIA Newsroom
- NVIDIA 与 Pleias 共建法国比利时本地化人格数据集2026-10-28 · NVIDIA
- NVIDIA DGX Spark 上优化 Ling-3.0-flash 模型推理性能2026-10-27 · NVIDIA
- 英伟达RTX 5090显卡面临停产疑云2026-10-27 · IT之家
- NVIDIA发布多语言语音转写模型Nemotron 3.5 Transcribe2026-10-28 · Hugging Face Blog
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 全部 AI 新闻 · 今日