当前位置: 首页 > 工具软件 > ONNX Runtime > 使用案例 >

Ubuntu18.04安装onnxruntime(c++版)与CUDA运行Demo

白志勇
2023-12-01

根据项目需求,从pytorch转的onnx模型做部署。具体可以参考pytorch官方

1、安装

下载源码(根据目标版本选一个就行):

git clone --depth=1 --branch v1.12.1 https://github.com/microsoft/onnxruntime.git
git clone --depth=1 --branch v1.8.2 https://github.com/microsoft/onnxruntime.git

1、注意cuda版本要和onnxruntime版本对应,具体参考官方
目前onnxruntime已经更新到1.13版本,自1.8版本以后函数写法都有很大的变化。
另外我的cuda是11.3版本,根据对应关系,保险起见,我选v1.8.2。
查看cuda版本:nvcc -V
查看cudnn版本:cat /usr/lo

 类似资料: