// AI 新闻 · 2026-10-24 · NVIDIA
NVIDIA TensorRT 11.1 引入全局性能调优功能
NVIDIA 在 TensorRT 11.1 版本中推出全局性能调优功能,通过显式且可搜索的构建路线表达编译器调度策略。该功能允许用户定义、查看和探索超过 200 个可调参数(knobs)的组合空间,其中每个参数具有允许值与默认值。trtexec 工具实现了一个调优循环,将路由表达式展开为具体构建路线,生成并测量候选引擎,排除崩溃或精度不达标的结果,最终选择性能最优的引擎。
原文发布 2026-10-24 01:27(北京时间)来源 NVIDIA自动整理 · 已核对原文
01摘要
在十项评估工作负载中,该调优方案相较默认构建路线实现了 1.14 倍至 1.63 倍的端到端性能提升。调优过程支持基于搜索空间选择策略、使用 --dryRun 预览路由、通过 --tuningCacheFile 和 --continue 实现增量与可中断运行,并建议在模型结构、输入形状、目标 GPU 或软件栈变更后重新调优。
由开源模型根据原文自动整理,经数字/专名逐项核对(必须在原文中出现),以原文为准。
02要点
- 全局性能调优功能以显式可搜索的构建路线形式表示编译器调度策略,涵盖超过 200 个可调参数。
- trtexec 工具通过候选引擎生成与测量实现自动调优,排除崩溃或精度失败路径,选择性能最优方案。
- 在十项工作负载中,性能提升范围为 1.14x 至 1.63x,优于默认构建路线。
- 支持增量调优、缓存恢复和参数变更后的重新调优,提升调优过程的灵活性与实用性。
03原文出处
NVIDIA · 发布于 2026-10-24 01:27(北京时间) · 上方为原标题
05同主题新闻
出自智图 AI 新闻:从 1100 多个官方与媒体信源采集。摘要只转述原文内容,详情请看原文。 全部 AI 新闻 · 今日