英伟达官方TensorRT8.x下载地址
https://developer.nvidia.com/nvidia-tensorrt-8x-download
一 Pip安装TensorRT文件夹中的.whl文件
1.python文件夹
pip install tensorrt-8.4.1.5-cp36-none-win_amd64.whl
2.graphsurgeon文件夹
pip install graphsurgeon-0.4.6-py2.py3-none-any.whl
3.onnx_graphsurgeon文件夹
pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl -i http://pypi.douban.com/simple/ --trusted-host pypi.douban.com
4.uff文件夹
pip install uff-0.6.9-py2.py3-none-any.whl
二 验证Python版本的TensorRT是否安装成功
1.复制库文件到cuda
2.验证
import tensorrt as trt
print(trt.__version__)
三 验证C++版本是否可用
1.进去samples\sampleMNIST
2.点击运行
3.查看是否在bin中生成对应exe
4.从data\mnist中拿一张图片进行测试
输入测试指令
sample_mnist.exe 0.pgm
测试成功