根据项目需求,从pytorch转的onnx模型做部署。具体可以参考pytorch官方
下载源码(根据目标版本选一个就行):
git clone --depth=1 --branch v1.12.1 https://github.com/microsoft/onnxruntime.git
git clone --depth=1 --branch v1.8.2 https://github.com/microsoft/onnxruntime.git
1、注意cuda版本要和onnxruntime版本对应,具体参考官方
目前onnxruntime已经更新到1.13版本,自1.8版本以后函数写法都有很大的变化。
另外我的cuda是11.3版本,根据对应关系,保险起见,我选v1.8.2。
查看cuda版本:nvcc -V
查看cudnn版本:cat /usr/lo