什么是最快的 Mask R-CNN 实现

Sha*_*uly 6 computer-vision deep-learning tensorflow pytorch onnx

我正在边缘设备(使用 NVIDIA GTX 1080)上运行 Mask R-CNN 模型。我目前正在使用 Detectron2 Mask R-CNN 实现,并且我的推理速度约为 5 FPS。

为了加快速度,我查看了其他推理引擎和模型实现。例如 ONNX,但我无法获得更快的推理速度。

TensorRT 对我来说看起来很有希望,但我没有找到一个现成的“开箱即用”的实现。

是否有其他成熟且快速的推理引擎或其他技术来加速推理?

kHa*_*hit 3

Mask R-CNN 在 GTX 1080 上几乎不可能获得更高的推理速度。你可以detectron2通过 Facebook AI Research 查看。

否则,我建议使用YOLACT- (You Only Look At CoefficienTs),它可以实现实时实例分割。

在此输入图像描述

另一方面,如果不需要实例分割,可以使用YOLO、SSD等进行对象检测。