检测国民身份证并获取详细信息

Question

我正在尝试检测以下类型的国民身份证并获取其详细信息.例如,签名的位置应该在人物图像的右上角找到,在本例中为"BC".

我需要在iPhone上做这个应用程序.我想过使用Opencv,但我怎样才能获得标记的细节？我是否需要使用类似卡片或OCR训练应用程序？

移动应用程序是否有任何特定的实现？

我还通过card-io检测信用卡详细信息,Card-io是否还检测到其他卡的详细信息？

更新:

我用tesseract进行文本检测.如果图像单独有文本,Tesseract工作正常.所以我裁剪了红色标记的区域并作为Tesseract的输入,它与MRZ部分一起工作.

有一个针对Tesseract 的IOS实现,我已经测试过了.

我需要做什么？

现在我正在尝试自动化文本检测部分.现在我打算自动化以下项目,

1)裁剪脸部(我已经使用了Viola-jones面部探测器).

2)需要从照片中获取此示例中的"BC".

3)从ID卡中提取/检测MRZ区域.

我正在努力做2和3,任何想法或代码片段都会很棒.

Answer 1

假设这些ID是根据具有特定宽度,高度,偏移,间距等的标准模板准备的,您可以尝试基于模板的方法.

MRZ很容易被发现.在图像中检测到它后,找到将模板中的MRZ映射到它的转换.当您知道此转换时,您可以将模板上的任何区域(例如,个人的照片)映射到图像并提取该区域.

下面是一个非常简单的程序,遵循一条快乐的道路.您将不得不进行更多处理以定位MRZ(例如,如果存在透视扭曲或旋转).我只是通过测量图像来准备模板,它对你的情况不起作用.我只想传达这个想法.图像来自维基

    Mat rgb = imread(INPUT_FILE);
    Mat gray;
    cvtColor(rgb, gray, CV_BGR2GRAY);

    Mat grad;
    Mat morphKernel = getStructuringElement(MORPH_ELLIPSE, Size(3, 3));
    morphologyEx(gray, grad, MORPH_GRADIENT, morphKernel);

    Mat bw;
    threshold(grad, bw, 0.0, 255.0, THRESH_BINARY | THRESH_OTSU);

    // connect horizontally oriented regions
    Mat connected;
    morphKernel = getStructuringElement(MORPH_RECT, Size(9, 1));
    morphologyEx(bw, connected, MORPH_CLOSE, morphKernel);

    // find contours
    Mat mask = Mat::zeros(bw.size(), CV_8UC1);
    vector<vector<Point>> contours;
    vector<Vec4i> hierarchy;
    findContours(connected, contours, hierarchy, CV_RETR_CCOMP, CV_CHAIN_APPROX_SIMPLE, Point(0, 0));

    vector<Rect> mrz;
    double r = 0;
    // filter contours
    for(int idx = 0; idx >= 0; idx = hierarchy[idx][0])
    {
        Rect rect = boundingRect(contours[idx]);
        r = rect.height ? (double)(rect.width/rect.height) : 0;
        if ((rect.width > connected.cols * .7) && /* filter from rect width */
            (r > 25) && /* filter from width:hight ratio */
            (r < 36) /* filter from width:hight ratio */
            )
        {
            mrz.push_back(rect);
            rectangle(rgb, rect, Scalar(0, 255, 0), 1);
        }
        else
        {
            rectangle(rgb, rect, Scalar(0, 0, 255), 1);
        }
    }
    if (2 == mrz.size())
    {
        // just assume we have found the two data strips in MRZ and combine them
        CvRect max = cvMaxRect(&(CvRect)mrz[0], &(CvRect)mrz[1]);
        rectangle(rgb, max, Scalar(255, 0, 0), 2);  // draw the MRZ

        vector<Point2f> mrzSrc;
        vector<Point2f> mrzDst;

        // MRZ region in our image
        mrzDst.push_back(Point2f((float)max.x, (float)max.y));
        mrzDst.push_back(Point2f((float)(max.x+max.width), (float)max.y));
        mrzDst.push_back(Point2f((float)(max.x+max.width), (float)(max.y+max.height)));
        mrzDst.push_back(Point2f((float)max.x, (float)(max.y+max.height)));

        // MRZ in our template
        mrzSrc.push_back(Point2f(0.23f, 9.3f));
        mrzSrc.push_back(Point2f(18.0f, 9.3f));
        mrzSrc.push_back(Point2f(18.0f, 10.9f));
        mrzSrc.push_back(Point2f(0.23f, 10.9f));

        // find the transformation
        Mat t = getPerspectiveTransform(mrzSrc, mrzDst);

        // photo region in our template
        vector<Point2f> photoSrc;
        photoSrc.push_back(Point2f(0.0f, 0.0f));
        photoSrc.push_back(Point2f(5.66f, 0.0f));
        photoSrc.push_back(Point2f(5.66f, 7.16f));
        photoSrc.push_back(Point2f(0.0f, 7.16f));

        // surname region in our template
        vector<Point2f> surnameSrc;
        surnameSrc.push_back(Point2f(6.4f, 0.7f));
        surnameSrc.push_back(Point2f(8.96f, 0.7f));
        surnameSrc.push_back(Point2f(8.96f, 1.2f));
        surnameSrc.push_back(Point2f(6.4f, 1.2f));

        vector<Point2f> photoDst(4);
        vector<Point2f> surnameDst(4);

        // map the regions from our template to image
        perspectiveTransform(photoSrc, photoDst, t);
        perspectiveTransform(surnameSrc, surnameDst, t);
        // draw the mapped regions
        for (int i = 0; i < 4; i++)
        {
            line(rgb, photoDst[i], photoDst[(i+1)%4], Scalar(0,128,255), 2);
        }
        for (int i = 0; i < 4; i++)
        {
            line(rgb, surnameDst[i], surnameDst[(i+1)%4], Scalar(0,128,255), 2);
        }
    }

结果:照片和姓氏区域为橙色.MRZ蓝色.

Answer 2

Card.io 专为浮雕信用卡而设计。它不适用于此用例。