在 Ubuntu 20.04 上设置 ONNX 运行时（C++ API）

Question

我目前正在尝试让我的图像处理程序在 Ubuntu（来自 Windows）上运行。

我已经成功构建并链接了 OpenCV 和 Boost 库以与我的 cpp 程序一起使用，但除了针对特定 Visual Studio 使用以下命令和 NuGet 包管理器之外，我还没有找到任何有关在 Ubuntu 20.04 上设置 Onnx Runtime C++ 的说明项目：

Install-Package Microsoft.ML.OnnxRuntime -Version 1.4.0

在 Windows 上，我只需要使用 NuGet 包管理器来下载给定 Visual Studio 项目的库。似乎可以使用 NuGet 在 Ubuntu 上执行此操作，但我想知道是否可以更“手动”执行此操作，例如 boost 和 OpenCV 构建和安装。谢谢！

Answer 1

对于默认的 CPU 版本，您可以在此处下载 tgz 文件。

对于无法作为 tgz 或 NuGet 提供的其他版本的 ONNX 运行时（例如 TensorRT），您可以在本地构建它们：

./build.sh --cudnn_home <path to cuDNN e.g. /usr/lib/x86_64-linux-gnu/> --cuda_home <path to folder for CUDA e.g. /usr/local/cuda> --use_tensorrt --tensorrt_home <path to TensorRT home>

更多说明可在构建 ONNX 运行时找到