Skip to content
简体中文

切换主题

// AI 新闻 · 2026-10-24 · NVIDIA

NVIDIA TensorRT 11.1 引入全局性能调优功能

NVIDIA 在 TensorRT 11.1 版本中推出全局性能调优功能,通过显式且可搜索的构建路线表达编译器调度策略。该功能允许用户定义、查看和探索超过 200 个可调参数(knobs)的组合空间,其中每个参数具有允许值与默认值。trtexec 工具实现了一个调优循环,将路由表达式展开为具体构建路线,生成并测量候选引擎,排除崩溃或精度不达标的结果,最终选择性能最优的引擎。

原文发布 2026-10-24 01:27(北京时间)来源 NVIDIA自动整理 · 已核对原文

01摘要

在十项评估工作负载中,该调优方案相较默认构建路线实现了 1.14 倍至 1.63 倍的端到端性能提升。调优过程支持基于搜索空间选择策略、使用 --dryRun 预览路由、通过 --tuningCacheFile 和 --continue 实现增量与可中断运行,并建议在模型结构、输入形状、目标 GPU 或软件栈变更后重新调优。

由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。

02要点

03原文出处

Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 2

NVIDIA · 发布于 2026-10-24 01:27(北京时间) · 上方为原标题

05同主题新闻

出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 全部 AI 新闻 · 今日

数据更新于:AI 新闻(北京时间)