如何使用 opencv python 计算乐高积木上的孔数？

Question

我正在开发我的 python 项目，我需要计算每个乐高积木组件中有多少个孔。我将从输入 .json 文件中获取有关需要计算哪个程序集的信息，如下所示：

"img_001": [
    {
        "red": "0",
        "blue": "2",
        "white": "1",
        "grey": "1",
        "yellow": "1"
    },
    {
        "red": "0",
        "blue": "1",
        "white": "0",
        "grey": "1",
        "yellow": "0"

因此，我需要识别必须按颜色计数的组件。然后我必须在特定的砖块组装中确定孔的数量。

这是我使用的图像示例：

我开始将图像更改为 HSV 颜色空间，并使用轨迹栏为每种颜色找到了一个蒙版。通过使用，cv2.inRange我得到了一个掩模，例如红色： 如您所见，反射光没有帮助。此时我不知道我该如何前进。我觉得我应该用来cv2.findContour获取每个组件的轮廓。我认为直方图均衡在这里可能有用。为了检测圆圈我想使用cv2.HoughCircles或者也许cv2.SimpleBloopDetector。但我不知道如何检查每个区域有多少块砖。输出只是特定装配中的一些孔。你能给我一些想法吗？哪个 OpenCv 函数可能适用于此？您将如何解决这种图像处理问题？感谢您的回答。

Answer 1

这是一个简单但非常有趣的颜色分割练习。这个主题已经被广泛讨论，在Stackoverflow上有几个例子。在许多场景中，颜色分割在 HSV 颜色空间中效果最佳。

在下面的左图中，您可以看到带有蓝色孔洞的黄色砖块的分割结果，只是为了表明它们也被这种方法检测到。

在这个答案中，我提供了检测黄砖并识别其中的孔所需的操作的高级概述。然而，它并没有演示如何计算特定砖块内的孔数，以避免破坏你的作业。我故意省略了这部分答案，以便给您留下一些工作要做。

以下是我的方法的主要步骤：

• 对图像进行预处理以改善分割：此处使用的技术称为颜色量化，它将图像中的颜色数量减少到约 42 种颜色。很难在下图中看到结果，但如果放大，它显示的颜色比原始图像少：

• 将预处理后的图像转换为HSV颜色空间，以实现更好的颜色分割。

• 由于此方法仅关注黄色砖块的分割，因此该算法定义了黄色的低值和高值（在 HSV 中），以使用此范围对图像进行阈值处理：该范围之外的任何颜色都会变成黑色像素。图像编辑器可以帮助您放大原始图像并检查像素的准确 HSV 值。这是分割的结果：

• 然后处理分割的图像，我们丢弃小斑点，只保留最大的斑点（即砖块）。经过这个过滤机制，就可以统计出有多少块黄砖了。这里有一个绝妙的技巧：如果您使用绘制砖块的轮廓cv2.fillPoly()并用白色填充它，您将能够在单独的图像中绘制整个砖块，而不会出现任何孔，以创建蒙版。这很快就会派上用场！这是黄色面具的样子：

• 在这个阶段，我们已经知道了图像中所有黄砖的位置。剩下要做的就是识别每块砖上的孔。这就是遮罩的用武之地：如果你注意上面的两张图像，分割图像和遮罩之间的区别主要是砖块的孔：

• 处理该图像的轮廓可以丢弃所有不符合孔洞条件的小斑点，只留下砖块的孔洞。我们可以在分割图像或原始图像上绘制孔的位置来显示它们：

总之，此代码提供了一个黄色砖块列表和另一个包含这些砖块中的孔的列表。从现在开始，就由你决定了。该代码可以轻松扩展以处理其他颜色的砖块。玩得开心：

import cv2
import numpy as np

# convertToOpenCVHSV():
#   converts from HSV range (H: 0-360, S: 0-100, V: 0-100)
#   to what OpenCV expects: (H: 0-179, S: 0-255, V: 0-255)
def convertToOpenCVHSV(H, S, V):
    return np.array([H // 2, S * 2.55, V * 2.55], np.uint8)


# 1. Load input image
img = cv2.imread('test_images/legos.jpg')

# 2. Preprocess: quantize the image to reduce the number of colors
div = 6
img = img // div * div + div // 2
cv2.imwrite('lego2_quantized.jpg', img)


# 3. Convert to HSV color space
hsv_img = cv2.cvtColor(img, cv2.COLOR_BGR2HSV)


# 4. Segment the image using predefined values of yellow (min and max colors)
low_yellow = convertToOpenCVHSV(40, 35, 52)
high_yellow = convertToOpenCVHSV(56, 95, 93)
yellow_seg_img = cv2.inRange(hsv_img, low_yellow, high_yellow)
#cv2.imshow('yellow_seg_img', yellow_seg_img)
cv2.imwrite('lego4_yellow_seg_img.jpg', yellow_seg_img)

# 5. Identify and count the number of yellow bricks and create a mask with just the yellow objects
bricks_list = []
min_size = 5

contours, hierarchy = cv2.findContours(yellow_seg_img, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_NONE)
for contourIdx, cnt in enumerate(contours):
    # filter out tiny segments
    x, y, w, h = cv2.boundingRect(cnt)
    if (w < min_size) or (h < min_size):
        continue

    #print('contourIdx=', contourIdx, 'w=', w, 'h=', h)

    bricks_list.append(cnt)

    # debug: draw green contour in the original image
    #cv2.drawContours(img, cnt, -1, (0, 255, 0), 2) # green

print('Detected', len(bricks_list), 'yellow pieces.')

# Iterate the list of bricks and draw them (filled) on a new image to be used as a mask
yellow_mask_img = np.zeros((img.shape[0], img.shape[1]), np.uint8)
for cnt in bricks_list:
    cv2.fillPoly(yellow_mask_img, pts=[cnt], color=(255,255,255))

cv2.imshow('yellow_mask_img', yellow_mask_img)
cv2.imwrite('lego5_yellow_mask_img.jpg', yellow_mask_img)

# debug: display only the original yellow bricks found
bricks_img = cv2.bitwise_and(img, img, mask=yellow_mask_img)
#cv2.imshow('bricks_img', bricks_img)
cv2.imwrite('lego5_bricks_img.jpg', bricks_img)

# 6. Identify holes in each Lego brick
diff_img = yellow_mask_img - yellow_seg_img
cv2.imshow('diff_img', diff_img)
cv2.imwrite('lego6_diff_img.jpg', diff_img)

# debug: create new BGR image for debugging purposes
dbg_img = cv2.cvtColor(yellow_mask_img, cv2.COLOR_GRAY2RGB)
#dbg_img = bricks_img

holes_list = []
min_area_size = 10
max_area_size = 24
contours, hierarchy = cv2.findContours(yellow_seg_img, cv2.RETR_LIST, cv2.CHAIN_APPROX_NONE)
for contourIdx, cnt in enumerate(contours):
    # filter out tiny segments by area
    area = cv2.contourArea(contours[contourIdx])

    if (area < min_area_size) or (area > max_area_size):
        #print('contourIdx=', contourIdx, 'w=', w, 'h=', h, 'area=', area, '(ignored)')
        #cv2.drawContours(dbg_img, cnt, -1, (0, 0, 255), 2) # red
        continue

    #print('contourIdx=', contourIdx, 'w=', w, 'h=', h, 'area=', area)
    holes_list.append(cnt)

# debug: draw a blue-ish contour on any BGR image to show the holes of the bricks
for cnt in holes_list:
    cv2.fillPoly(dbg_img, pts=[cnt], color=(255, 128, 0))
    cv2.fillPoly(img, pts=[cnt], color=(255, 128, 0))

cv2.imwrite('lego6_dbg_img.jpg', dbg_img)
cv2.imwrite('lego6_img.jpg', img)

# 7. Iterate though the list of holes and associate them with a particular brick
# TODO

cv2.imshow('img', img)
cv2.imshow('dbg_img', dbg_img)
cv2.waitKey(0)