检测噪声帧

Question

我有一个 FPV（第一人称视角）接收器，显示从安装在无人机上的 FPV 摄像机接收的帧。当发射器工作时，接收器显示摄像机视图。否则，如果连接丢失或发射器不工作，它会显示噪声帧。

噪声帧具有随机模式（有时具有更多的白色像素，有时具有更多的黑色像素）。我想以一种有效的方式在 Python 中使用 OpenCV 检测那些噪声帧。我知道 OpenCV 有一个方法叫做cv2.fastNlMeansDenoisingColored(). 但在这种情况下，我想检测每帧中的噪声帧而不是噪声。

附上噪声帧示例：

另一个噪声帧示例：

一个有效的框架（可以是任何东西）：

Answer 1

假设您的有效视频帧至少具有一定数量的颜色信息，并且您的噪声帧或多或少是黑白的，那么可能有一种使用来自HSV 颜色空间的饱和度通道的简单方法。

• 使用将图像转换为 HSV 颜色空间，请参见cv2.cvtColor。
• 计算饱和通道的直方图，见cv2.calcHist。
• 计算具有最小饱和度的像素百分比，假设至少为0.05。
• 如果该百分比超过阈值，比方说0.5，那么所有像素中至少有 50% 的饱和度至少为0.05，因此该帧似乎是有效帧。（如果需要，调整阈值。）

import cv2
from matplotlib import pyplot as plt
import numpy as np
from skimage import io           # Only needed for web grabbing images, use cv2.imread for local images


def is_valid(image):

    # Convert image to HSV color space
    image = cv2.cvtColor(image, cv2.COLOR_BGR2HSV)

    # Calculate histogram of saturation channel
    s = cv2.calcHist([image], [1], None, [256], [0, 256])

    # Calculate percentage of pixels with saturation >= p
    p = 0.05
    s_perc = np.sum(s[int(p * 255):-1]) / np.prod(image.shape[0:2])

    ##### Just for visualization and debug; remove in final
    plt.plot(s)
    plt.plot([p * 255, p * 255], [0, np.max(s)], 'r')
    plt.text(p * 255 + 5, 0.9 * np.max(s), str(s_perc))
    plt.show()
    ##### Just for visualization and debug; remove in final

    # Percentage threshold; above: valid image, below: noise
    s_thr = 0.5
    return s_perc > s_thr


# Read example images; convert to grayscale
noise1 = cv2.cvtColor(io.imread('https://i.stack.imgur.com/Xz9l0.png'), cv2.COLOR_RGB2BGR)
noise2 = cv2.cvtColor(io.imread('https://i.stack.imgur.com/9ZPAj.jpg'), cv2.COLOR_RGB2BGR)
valid = cv2.cvtColor(io.imread('https://i.stack.imgur.com/0FNPQ.jpg'), cv2.COLOR_RGB2BGR)

for img in [noise1, noise2, valid]:
    print(is_valid(img))

可视化输出（按照问题中的顺序）：

而且，主要输出：

False
False
True

删除整个可视化内容，is_valid在我的机器上，调用每个图像所需的时间不到 0.01 秒。不确定您在录制时使用哪种硬件，但也许这种方法也适用于具有足够帧速率的某些“实时”处理。

最后一句话：我试图摆脱 OpenCV 直方图，并直接使用 NumPy 计算百分比，但这比提供的方法花费更多时间。奇怪的。

希望有帮助！