如何从图像中提取不同边缘强度的矩形？

Question

我正试图从一张支票的图像中提取帐号。我的逻辑是，我试图找到包含帐号的矩形，对边框进行切片，然后将切片输入到OCR中，从中获取文本。

我面临的问题是，当矩形不是非常突出和浅色，我不能得到矩形的轮廓，因为边缘不是完全相连的。

如何克服这一点？我试过但不起作用的事情是

1. I不能增加侵蚀迭代，以侵蚀它更多，因为这样边缘与周围的黑色像素连接并形成不同的形状。
2. 减小阈值偏移量可能会有所帮助，但似乎效率不高。因为代码必须处理几种类型的图像。我可以从偏移量10开始，不断增加偏移量，并检查是否找到了矩形。这将增加很多时间的支票与突出的矩形工作在20或更多的偏移量。因为我没有条件来检查矩形的边缘是否突出，所以必须在所有支票中应用循环。

记住以上几点。有人能帮我解决这个问题吗？

scikit-image==0.13.1
opencv-python==3.3.0.10

from skimage.filters import threshold_adaptive, threshold_local
import cv2

image = cv2.imread('cropped.png')

第2步：

使用自适应阈值从skimage去除背景，使我可以得到帐号矩形框。这对矩形较明显的支票很有效，但当矩形边缘较薄或颜色较浅时，阈值会导致边缘不相连，因此我无法找到轮廓。我在问题的后面附上了这方面的例子。

account_number_block = cv2.cvtColor(image, cv2.COLOR_RGB2GRAY)
account_number_block = threshold_adaptive(account_number_block, 251, offset=20)
account_number_block = account_number_block.astype("uint8") * 255

第3步：

kernel = np.ones((3,3), np.uint8)

account_number_block = cv2.erode(account_number_block, kernel, iterations=5)

(_, cnts, _) = cv2.findContours(account_number_block.copy(), cv2.RETR_LIST, cv2.CHAIN_APPROX_SIMPLE)
# cnts = sorted(cnts, key=cv2.contourArea)[:3]
rect_cnts = [] # Rectangular contours 
for cnt in cnts:
    approx = cv2.approxPolyDP(cnt,0.01*cv2.arcLength(cnt,True),True)
    if len(approx) == 4:
        rect_cnts.append(cnt)


rect_cnts = sorted(rect_cnts, key=cv2.contourArea, reverse=True)[:1]

1.原始图像

第二步：阈值化后去除背景。

第三步：找轮廓找到矩形框的账号。

Answer 1

import numpy as np
import cv2
import pytesseract as pt
from PIL import Image


#Run Main
if __name__ == "__main__" :

    image = cv2.imread("image.jpg", -1)

    # resize image to speed up computation
    rows,cols,_ = image.shape
    image = cv2.resize(image, (np.int32(cols/2),np.int32(rows/2)))

    # convert to gray and binarize
    gray_img = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
    binary_img = cv2.adaptiveThreshold(gray_img, 255, cv2.ADAPTIVE_THRESH_MEAN_C, cv2.THRESH_BINARY, 9, 9)

    # note: erosion and dilation works on white forground
    binary_img = cv2.bitwise_not(binary_img)

    # dilate the image to fill the gaps
    kernel = cv2.getStructuringElement(cv2.MORPH_RECT, (3,3))
    dilated_img = cv2.morphologyEx(binary_img, cv2.MORPH_DILATE, kernel,iterations=2)

    # find contours, discard contours which do not belong to a rectangle
    (_, cnts, _) = cv2.findContours(dilated_img, cv2.RETR_LIST, cv2.CHAIN_APPROX_SIMPLE)
    rect_cnts = [] # Rectangular contours 
    for cnt in cnts:
        approx = cv2.approxPolyDP(cnt,0.01*cv2.arcLength(cnt,True),True)
        if len(approx) == 4:
            rect_cnts.append(cnt)

    # sort contours based on area
    rect_cnts = sorted(rect_cnts, key=cv2.contourArea, reverse=True)[:1]

    # find bounding rectangle of biggest contour
    box = cv2.boundingRect(rect_cnts[0])
    x,y,w,h = box[:]

    # extract rectangle from the original image
    newimg = image[y:y+h,x:x+w]

    # use 'pytesseract' to get the text in the new image
    text = pt.image_to_string(Image.fromarray(newimg))
    print(text)

    cv2.namedWindow('Image', cv2.WINDOW_NORMAL)
    cv2.imshow('Image', newimg)
    cv2.waitKey(0)
    cv2.destroyAllWindows()

结果：03541140011724

结果：34785736216