Skip to content
简体中文

切换主题

// AI 新闻 · 2026-10-28 · NVIDIA

NVIDIA 推出 GPU 分片共享方案支持 Kubernetes

NVIDIA 与 KAI Scheduler 团队联合推出 GPU 分片共享方案,通过新开源的 GPU Fractioning Operator 实现对 Kubernetes 集群中 GPU 资源的精细化管理。该方案在每台 GPU 节点上部署 Multi-Process Service(MPS),并结合 CUDA 13.4 的内存边界控制能力,为每个工作负载设定明确的内存限制和计算模式,实现按需分配、透明隔离的 GPU 分片使用。

原文发布 2026-10-28 04:50(北京时间)来源 NVIDIA自动整理 · 已核对原文

01摘要

CUDA 13.4 新增时间分片与 sm-sharing 计算模式,支持精确内存请求、可扩展上限及最小保障值。GPU Fractioning Operator 负责在节点层面设置 MPS、应用容器级内存和计算模式限制,并实时监控各分片的实际资源使用情况,确保调度器分配后资源被正确执行和报告。

由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。

02要点

03原文出处

Memory-Enforced GPU Sharing in Kubernetes with NVIDIA CUDA 13.4

NVIDIA · 发布于 2026-10-28 04:50(北京时间) · 上方为原标题

05同主题新闻

出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 全部 AI 新闻 · 今日

数据更新于:AI 新闻(北京时间)