1. 任务说明
有如下几张信用卡,我们需要根据模板匹配出其中的数字,进行卡号的识别
2. Debug源码
cursor的debug:
launch.json:
{// 使用 IntelliSense 了解相关属性。 // 悬停以查看现有属性的描述。// 欲了解更多信息,请访问: https://go.microsoft.com/fwlink/?linkid=830387"version": "0.2.0","configurations": [{"name": "Python 调试程序: 包含参数的当前文件","type": "debugpy","request": "launch","program": "${file}","console": "integratedTerminal","args": "${command:pickArgs}"},{"name": "Run OCR Template Matching","type": "debugpy","request": "launch","program": "${workspaceFolder}/template-matching-ocr/ocr_template_match.py","cwd": "${workspaceFolder}","console": "integratedTerminal","args": ["-i", "${workspaceFolder}/template-matching-ocr/images/credit_card_01.png","-t", "${workspaceFolder}/template-matching-ocr/ocr_a_reference.png"]}]
}
2.1 制作数字模板
这里 -i 选择了第一张信用卡,-t 选择了模板。
# 导入工具包
import numpy as np
import argparse
import cv2
import myutils# 设置参数
ap = argparse.ArgumentParser()
# 要匹配的图片
ap.add_argument("-i", "--image", required=True,help="path to input image")
# 使用的模板
ap.add_argument("-t", "--template", required=True,help="path to template OCR-A image")
args = vars(ap.parse_args())# 指定信用卡类型
FIRST_NUMBER = {"3": "American Express","4": "Visa","5": "MasterCard","6": "Discover Card"
}
# 绘图展示
def cv_show(name,img):cv2.imshow(name, img)cv2.waitKey(0)cv2.destroyAllWindows()
# 读取一个模板图像
img = cv2.imread(args["template"])
cv_show('img',img)
# 转换成灰度图
ref = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
cv_show('ref',ref)
这张图也没啥好转的其实,本身就是这么个图
# 二值图像
ref = cv2.threshold(ref, 10, 255, cv2.THRESH_BINARY_INV)[1]
cv_show('ref',ref)
轮廓检测 cv2.findContours() 函数接受的参数为二值图,即黑白的(不是灰度图),cv2.RETR_EXTERNAL只检测外轮廓,cv2.CHAIN_APPROX_SIMPLE只保留终点坐标
# 计算轮廓
# 返回的list中每个元素都是图像中的一个轮廓
contours_info = cv2.findContours(ref.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
refCnts = contours_info[0] if len(contours_info) == 2 else contours_info[1]
hierarchy = contours_info[1] if len(contours_info) == 2 else contours_info[2]
cv2.drawContours(img,refCnts,-1,(0,0,255),3) #画一下轮廓refCnts
cv_show('img',img)
-1 表示要画所有的轮廓
打印一下当前shape值:
print (np.array(refCnts).shape)
(10, ) 10个轮廓
接下来我们需要对轮廓进行一个排序,什么轮廓对应什么数值:
外接矩形的目的是把复杂轮廓压成简单的 (x,y,w,h) 标量信息,以便排序、裁剪、筛选和绘图。
refCnts = myutils.sort_contours(refCnts, method="left-to-right")[0] #排序,从左到右,从上到下
# 跳转到 myutils.sort_contours
def sort_contours(cnts, method="left-to-right"):reverse = Falsei = 0if method == "right-to-left" or method == "bottom-to-top":reverse = Trueif method == "top-to-bottom" or method == "bottom-to-top":i = 1# 对每个轮廓 c 计算一个外接矩形boundingBoxes = [cv2.boundingRect(c) for c in cnts] #用一个最小的矩形,把找到的形状包起来x,y,w,h,矩形左上角坐标和宽、高。# 进行排序(cnts, boundingBoxes) = zip(*sorted(zip(cnts, boundingBoxes),key=lambda b: b[1][i], reverse=reverse))# 返回排序完成的轮廓return cnts, boundingBoxes
需要把每个轮廓对应的数字匹配起来。
digits = {}# 遍历每一个轮廓
for (i, c) in enumerate(refCnts):# 计算外接矩形并且resize成合适大小(x, y, w, h) = cv2.boundingRect(c)# 感兴趣区域roiroi = ref[y:y + h, x:x + w]# 把这个框resize成合适大小roi = cv2.resize(roi, (57, 88))# 每一个数字对应每一个抠出来的模板digits[i] = roi# 最后得出每个数字的模板
2.2 对输入图像做处理
原始图像:
想要找到其中的带字的区域。
# 初始化卷积核
rectKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (9, 3))
sqKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (5, 5))# 读取输入图像,预处理
image = cv2.imread(args["image"])
cv_show('image',image)
image = myutils.resize(image, width=300)
gray = cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)
cv_show('gray',gray)# 礼帽操作,突出更明亮(字体)的区域
tophat = cv2.morphologyEx(gray, cv2.MORPH_TOPHAT, rectKernel)
cv_show('tophat',tophat)
再找出这些亮区的边缘/梯度(Sobel):
# 突出这些亮区在 x 方向的强烈强度变化(通常对应垂直边缘)。
# ksize=-1 在 OpenCV 中表示用 Scharr 算子(不是简单的 3×3 Sobel),对细节/小结构的微小变化更敏感。
gradX = cv2.Sobel(tophat, ddepth=cv2.CV_32F, dx=1, dy=0, ksize=-1)
gradX = np.absolute(gradX) # 取绝对值,保留梯度强度
(minVal, maxVal) = (np.min(gradX), np.max(gradX))
gradX = (255 * ((gradX - minVal) / (maxVal - minVal))) # 将梯度线性归一化到 [0,255] 并转回 uint8。
gradX = gradX.astype("uint8")print (np.array(gradX).shape)
cv_show('gradX',gradX)
为了便于后续找轮廓和识别,我们希望把号码分成4块,怎么能让每一块中的数字连在一起,先膨胀,在腐蚀:
#通过闭操作(先膨胀,再腐蚀)将数字连在一起
gradX = cv2.morphologyEx(gradX, cv2.MORPH_CLOSE, rectKernel)
cv_show('gradX',gradX)
#THRESH_OTSU会自动寻找合适的阈值,适合双峰,需把阈值参数设置为0
thresh = cv2.threshold(gradX, 0, 255,cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
cv_show('thresh',thresh)
目前还不够完美,白色区域内还有黑块,需要填起来
#再来一个闭操作,作用是填补小孔、连通相近的白色区域。
thresh = cv2.morphologyEx(thresh, cv2.MORPH_CLOSE, sqKernel)
cv_show('thresh',thresh)
# 计算轮廓
# cv2.RETR_EXTERNAL:只返回外部轮廓;cv2.CHAIN_APPROX_SIMPLE:对轮廓点做压缩
contours_info = cv2.findContours(thresh.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)
threshCnts = contours_info[0] if len(contours_info) == 2 else contours_info[1]
hierarchy = contours_info[1] if len(contours_info) == 2 else contours_info[2]# 绘制轮廓
cnts = threshCnts
cur_img = image.copy()
cv2.drawContours(cur_img,cnts,-1,(0,0,255),3)
cv_show('img',cur_img)
# 想要的区域
locs = []# 遍历轮廓
for (i, c) in enumerate(cnts):# 计算矩形(x, y, w, h) = cv2.boundingRect(c)ar = w / float(h)# 选择合适的区域,根据实际任务来,这里的基本都是四个数字一组if ar > 2.5 and ar < 4.0:if (w > 40 and w < 55) and (h > 10 and h < 20):#符合的留下来locs.append((x, y, w, h))
# 将符合的轮廓从左到右排序
locs = sorted(locs, key=lambda x:x[0])
一共四组需要的轮廓:
我们做匹配肯定不能拿大轮廓去做匹配,应该是大轮廓分成4个小轮廓,然后和模板去匹配。
output = []
# 遍历每一个轮廓中的数字
for (i, (gX, gY, gW, gH)) in enumerate(locs):# initialize the list of group digitsgroupOutput = []# 根据坐标提取每一个组group = gray[gY - 5:gY + gH + 5, gX - 5:gX + gW + 5] # 稍微拿大一点cv_show('group',group)
# 对轮廓进行预处理,二值化group = cv2.threshold(group, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]cv_show('group',group)# 计算每一组的轮廓,还是计算+排序contours_info = cv2.findContours(group.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_SIMPLE)digitCnts = contours_info[0] if len(contours_info) == 2 else contours_info[1]hierarchy = contours_info[1] if len(contours_info) == 2 else contours_info[2]digitCnts = myutils.sort_contours(digitCnts, method="left-to-right")[0]# 计算每一组中的4个小轮廓的每一个数值for c in digitCnts:# 找到当前数值的轮廓,resize成合适的的大小(x, y, w, h) = cv2.boundingRect(c) # 外接矩形roi = group[y:y + h, x:x + w]roi = cv2.resize(roi, (57, 88)) # 和之前做的模板是一样的cv_show('roi',roi)
# 计算匹配得分,跟模板中的数进行匹配scores = []# 在模板中计算与每一个模板(0123456789)的得分for (digit, digitROI) in digits.items():# 模板匹配result = cv2.matchTemplate(roi, digitROI, cv2.TM_CCOEFF)(_, score, _, _) = cv2.minMaxLoc(result)scores.append(score)# 最终score中有10个值# 得到最合适的数字groupOutput.append(str(np.argmax(scores)))# 把所有小轮廓都匹配好# 画出来cv2.rectangle(image, (gX - 5, gY - 5),(gX + gW + 5, gY + gH + 5), (0, 0, 255), 1)cv2.putText(image, "".join(groupOutput), (gX, gY - 15),cv2.FONT_HERSHEY_SIMPLEX, 0.65, (0, 0, 255), 2)# 得到结果output.extend(groupOutput)# 一个大轮廓就结束了
# 所有大轮廓都结束了,都放到output中了
# 打印结果
print("Credit Card Type: {}".format(FIRST_NUMBER[output[0]]))
print("Credit Card #: {}".format("".join(output)))
cv2.imshow("Image", image)
cv2.waitKey(0)