// AI 新闻 · 2026-11-14 · NVIDIA
NVIDIA 推出 cuDLA Python 接口支持 Jetson AGX Orin 上原生 DLA 推理
NVIDIA 在 Jetson AGX Orin 平台上通过 cuDLA 接口实现深度学习加速器的原生推理,允许在 Python 中直接调用 DLA 推理功能。该接口基于 cuda.bindings.cudla 模块,提供对 C++ API 的 Python 封装,支持混合模式下 GPU 与 DLA 协同工作,包括预处理、推理和后处理任务的流式协调。
原文发布 2026-11-14 02:57(北京时间)来源 NVIDIA自动整理 · 已核对原文
01摘要
完整的推理生命周期包含九个步骤:初始化 CUDA、创建 DLA 设备、加载编译后的可执行文件、分析张量描述、分配 GPU 缓冲区、注册至 cuDLA、复制输入数据、提交任务到 CUDA 流并同步读取结果。所有 cuDLA 调用在失败时抛出 Python 异常,支持通过 try/finally 实现标准清理和 cudla.Status 枚举的细粒度错误处理。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- cuDLA Python 接口通过 cuda.bindings.cudla 模块实现,支持在 Jetson AGX Orin 上直接用 Python 调用 DLA 推理。
- 推理流程包含九个步骤,涵盖设备初始化、模型加载、缓冲区注册与结果同步等关键环节。
- DLA 专用于执行卷积、池化等固定操作,可提升能效并释放 GPU 资源用于其他任务。
- 该 API 同时适用于 NVIDIA RTX Spark,扩展了 DLA 推理到主流 Windows AI 开发笔记本平台。
03原文出处
Run Native DLA Inference in Python on NVIDIA Jetson AGX Orin Using cuDLA
NVIDIA · 发布于 2026-11-14 02:57(北京时间) · 上方为原标题
05相关新闻
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 2026-11-14 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日