TensorRT 安装与测试_如何看tensorrt是否正确安装

☘️前言

在正式安装前，应确保已经安装好了 NVIDIA CUDA™ Toolkit，如果没有安装可以参考：NVIDIA CUDA Installation Guide
对于 TensorRT 来说，目前 cuDNN 是一个可选项，他现在只用来加速很少的层。

可以采用下面三种模式来安装 TensorRT：

1. TensorRT的完整安装，包括TensorRT计划文件构建器功能。此模式与 TensorRT 8.6.0 之前提供的运行时相同。
2. learn runtime 安装，此安装明显小于完整安装，并允许您加载和运行使用版本兼容的构建器标志构建的引擎。此安装将不提供生成 TensorRT 计划文件的功能。
3. 调度运行时安装。此安装允许以最小的内存消耗进行部署，并允许您加载和运行使用版本兼容的构建器标志构建的引擎，并包含精简运行时。此安装将不提供生成 TensorRT 计划文件的功能。

查看 CUDA 版本

nvcc -V 
1

输出如下：

查看 CuDNN 版本

针对 8.0 前的版本使用以下指令查看cudnn的版本：

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
1

输出：

#define CUDNN_MAJOR 5
#define CUDNN_MINOR 1
#define CUDNN_PATCHLEVEL 10
--
#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

#include "driver_types.h"
1
2
3
4
5
6
7

8.0 以上版本查看方式为

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
1

输出：

#define CUDNN_MAJOR 8
#define CUDNN_MINOR 0
#define CUDNN_PATCHLEVEL 4
--
#define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)

#endif /* CUDNN_VERSION_H */
1
2
3
4
5
6
7

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/article/detail/57595