天天看点

Win10安装TensorRT

英伟达官方TensorRT8.x下载地址

​​https://developer.nvidia.com/nvidia-tensorrt-8x-download​​

一 Pip安装TensorRT文件夹中的.whl文件

1.python文件夹

Win10安装TensorRT
pip install tensorrt-8.4.1.5-cp36-none-win_amd64.whl      
Win10安装TensorRT

2.graphsurgeon文件夹

Win10安装TensorRT
pip install graphsurgeon-0.4.6-py2.py3-none-any.whl      
Win10安装TensorRT

3.onnx_graphsurgeon文件夹

pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl -i http://pypi.douban.com/simple/  --trusted-host pypi.douban.com      

4.uff文件夹

pip install uff-0.6.9-py2.py3-none-any.whl      

二 验证Python版本的TensorRT是否安装成功

1.复制库文件到cuda

Win10安装TensorRT

2.验证

import tensorrt as trt
print(trt.__version__)      
Win10安装TensorRT

三 验证C++版本是否可用

1.进去samples\sampleMNIST

Win10安装TensorRT

2.点击运行

Win10安装TensorRT

3.查看是否在bin中生成对应exe

Win10安装TensorRT

4.从data\mnist中拿一张图片进行测试

Win10安装TensorRT

输入测试指令

sample_mnist.exe 0.pgm      
Win10安装TensorRT

测试成功