标签: openvino

我正在尝试安装 Openvino 将 Keras 模型转换为推理引擎的表示形式。我正在运行命令：

python3 openvino/tools/mo/mo_tf.py \xe2\x80\x94model_13.h5/ --input_shape=\\[180,180\\]\n\n

这会返回错误：

from openvino.tools.mo.subprocess_main import subprocess_main\nModuleNotFoundError: No module named 'openvino'\n

我试过了pip install openvino但始终得到：

ERROR: Could not find a version that satisfies the requirement openvino (from versions: none)\nERROR: No matching distribution found for openvino\n

为了尝试确保运行脚本和安装 Openvino 的 python 版本相同，我尝试过：

python3 -m pip install openvino\n\n

mo_tf.py 脚本的内容很简单：

#!/usr/bin/env python3\n\n# Copyright (C) 2018-2021 Intel Corporation\n# SPDX-License-Identifier: Apache-2.0\n\n\nif __name__ == "__main__":\n    from openvino.tools.mo.subprocess_main import subprocess_main\n …

我已经转换了 Keras 模型以与 OpenVino 一起使用。最初的 Keras 模型使用 sigmoid 返回 0 到 1 范围内的分数进行二元分类。将模型转换为与 OpenVino 一起使用后，两个类别的分数均接近 0.99，但其中一个类别的分数似乎略低。

例如，test1.jpg 和 test2.jpg（来自相反的类别）分别产生 0.00320357 和 0.9999 的分数。

使用 OpenVino，相同的图像分别产生 0.9998982 和 0.9962392 的分数。

编辑* 一种怀疑是输入数组仍然被 OpenVino 模型接受，但在形状上发生了某种改变或“扰乱”，因此永远不会匹配第一类？换句话说，如果你给它输入随机噪声，分数也将始终为 0.9999。也许我必须以某种方式让 OpenVino 模型接受原始形状 (1,180,180,3) 而不是 (1,3,180,180)，这样我就不必强制输入与原始模型接受的形状不同？但这很奇怪，因为我在为 openvino 制作 xml 和 bin 时指定了形状：

python3 /opt/intel/openvino_2021/deployment_tools/model_optimizer/mo_tf.py --saved_model_dir /Users/.../Desktop/.../model13 --output_dir /Users/.../Desktop/... --input_shape=\[1,180,180,3]

但是，我从错误消息中得知，推理引擎出于某种未知原因正在期待 (1,3,180,180)。这可能是问题所在吗？另一个怀疑是原始模型的冻结方式有问题。我正在探索不同的方法来冻结原始模型（keras 模型转换为 pb），以防问题与此相关。

我检查以确保 OpenVino 实现中使用了 Sigmoid 激活函数（与 Keras 模型相同的激活），看起来确实如此。那么，为什么这些值不一样呢？任何帮助将非常感激。

OpenVino推理的代码是：

import openvino
from openvino.inference_engine import IECore, IENetwork 
from skimage import io
import sys
import numpy as …

我最近按照本教程安装了 OpenVINO ，一开始它警告我它看不到显卡。我以为它谈论的是英特尔高清显卡（或类似的），因为我没有其中之一，但我有 Nvidia GTX 1080ti。

我没有看到有人谈论过这一点，安装指南中也没有提到，但它甚至可以与 Nvidia 显卡一起使用吗？如果没有，使用 OpenVINO 有何意义？

https://software.intel.com/en-us/forums/computer-vision/topic/785538

“问题已经解决了，因为我使用的模型默认使用channels_first进行GPU训练，而OPENVINO需要使用channels_last来进行TF模型。”

这些是什么意思？

我怎样才能改变它们？

我在网上找不到任何对此的进一步参考。

我目前正在使用 YoloV3-tiny。存储库： https: //github.com/AlexeyAB/darknet

为了将网络导入 C++ 项目，我使用 OpenVINO-Toolkit。更详细地说，我使用以下过程来转换网络：
将 YOLO* 模型转换为中间表示 (IR)

该过程执行转换和优化以继续推理。

现在，我想尝试 YoloV4，因为它对于项目的目的来说似乎更有效。问题在于，OpenVINO Toolkit 尚不支持该版本，并且不会报告相对于版本 4 的 .json（优化所需的文件）文件，而仅报告版本 3 之前的文件。

Yolo 版本 3 和版本 4 在结构方面有何变化？
我是否可以希望 YoloV3-tiny（或 YoloV3）的转换与 YoloV4 相同？
YoloV4 是否比仅使用 CPU 进行推理的 YoloV3-tiny 慢很多？
YoloV4-tiny 何时上市？
有人有相关信息吗？

我正在尝试使用英特尔预训练模型动物园中的一些预训练模型。这是该网站的地址https://docs.openvinotoolkit.org/latest/_models_intel_index.html。Linux系统下有没有具体的下载这些模型的命令？

我正在尝试从 docker 容器使用 OpenVINO。我使用官方网站上的 docker 文件https://docs.openvinotoolkit.org/latest/_docs_install_guides_installing_openvino_docker_linux.html

FROM ubuntu:18.04
USER root
WORKDIR /
SHELL ["/bin/bash", "-xo", "pipefail", "-c"]
# Creating user openvino
RUN useradd -ms /bin/bash openvino && \
    chown openvino -R /home/openvino
ARG DEPENDENCIES="autoconf \
                  automake \
                  build-essential \
                  cmake \
                  cpio \
                  curl \
                  gnupg2 \
                  libdrm2 \
                  libglib2.0-0 \
                  lsb-release \
                  libgtk-3-0 \
                  libtool \
                  udev \
                  unzip \
                  dos2unix"
RUN apt-get update && \
    apt-get install -y --no-install-recommends ${DEPENDENCIES} && \
    rm -rf /var/lib/apt/lists/*
WORKDIR /thirdparty …