Sha*_*uly 6 computer-vision deep-learning tensorflow pytorch onnx
我正在边缘设备(使用 NVIDIA GTX 1080)上运行 Mask R-CNN 模型。我目前正在使用 Detectron2 Mask R-CNN 实现,并且我的推理速度约为 5 FPS。
为了加快速度,我查看了其他推理引擎和模型实现。例如 ONNX,但我无法获得更快的推理速度。
TensorRT 对我来说看起来很有希望,但我没有找到一个现成的“开箱即用”的实现。
是否有其他成熟且快速的推理引擎或其他技术来加速推理?
Mask R-CNN 在 GTX 1080 上几乎不可能获得更高的推理速度。你可以detectron2
通过 Facebook AI Research 查看。
否则,我建议使用YOLACT
- (You Only Look At CoefficienTs),它可以实现实时实例分割。
另一方面,如果不需要实例分割,可以使用YOLO、SSD等进行对象检测。
归档时间: |
|
查看次数: |
2460 次 |
最近记录: |