測試pytorch cpu版,需要1.4s,300多ms還是有點優化的。
伺服器上cpu2.07s
https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt
版本需要按照作者的:
Onnx 1.4.1
有預測代碼和下載下傳方法:
https://github.com/Rapternmn/PyTorch-Onnx-Tensorrt/blob/master/detect.py
測試結果:300多ms,有cpu版好像差不多,無優化
有權重:
https://github.com/htshinichi/onnx-yolov3
https://github.com/jacke121/onnx-yolov3
這個加載權重失敗,報錯:
onnxruntime.capi.onnxruntime_pybind11_state.Fail: [ONNXRuntimeError] : 1 : FAIL : Node (layer1-conv) Op (Conv) [ShapeInferenceError] Attribute dilations has incorrect size