人脸识别实战之Opencv+SVM实现人脸识别
前言
在本文中,您将学习如何使用 opencv 进行人脸识别。文章分三部分介绍:
第一,将首先执行人脸检测,使用深度学习从每个人脸中提取人脸量化为128位的向量。
第二, 在嵌入基础上使用支持向量机(svm)训练人脸识别模型。
第三,最后使用 opencv 识别图像和视频流中的人脸。
项目结构
编码
新建face_embeddings.py脚本,写入如下代码:
# import the necessary packages import numpy as np import pickle import cv2 import os import os
导入需要的包。然后定义几个函数:
def list_images(basepath, contains=none): # return the set of files that are valid return list_files(basepath, validexts=image_types, contains=contains) def list_files(basepath, validexts=none, contains=none): # loop over the directory structure for (rootdir, dirnames, filenames) in os.walk(basepath): # loop over the filenames in the current directory for filename in filenames: # if the contains string is not none and the filename does not contain # the supplied string, then ignore the file if contains is not none and filename.find(contains) == -1: continue # determine the file extension of the current file ext = filename[filename.rfind("."):].lower() # check to see if the file is an image and should be processed if validexts is none or ext.endswith(validexts): # construct the path to the image and yield it imagepath = os.path.join(rootdir, filename) yield imagepath def resize(image, width=none, height=none, inter=cv2.inter_area): dim = none (h, w) = image.shape[:2] # 如果高和宽为none则直接返回 if width is none and height is none: return image # 检查宽是否是none if width is none: # 计算高度的比例并并按照比例计算宽度 r = height / float(h) dim = (int(w * r), height) # 高为none else: # 计算宽度比例,并计算高度 r = width / float(w) dim = (width, int(h * r)) resized = cv2.resize(image, dim, interpolation=inter) # return the resized image return resized
list_images函数,读取数据集文件夹下面的图片。
resize函数,等比例resize图片。接下来定义一些变量:
dataset_path='dataset' embeddings_path='output/embeddings.pickle' detector_path='face_dete_model' embedding_model='nn4.small2.v1.t7' confidence_low=0.5
dataset_path:数据集路径
embeddings_path:输出编码文件的路径
detector_path:人脸检测模型的路径
embedding_model:编码模型
confidence_low:最低的置信度。
接下来就是代码的最重要的部分:
print("loading face detector...") protopath = os.path.sep.join([detector_path, "deploy.proto.txt"]) modelpath = os.path.sep.join([detector_path,"res10_300x300_ssd_iter_140000_fp16.caffemodel"]) detector = cv2.dnn.readnetfromcaffe(protopath, modelpath) # 加载序列化的人脸编码模型 print("loading face recognizer...") embedder = cv2.dnn.readnetfromtorch(embedding_model) # 获取数据集中输入图像的路径 print("quantifying faces...") imagepaths = list(list_images(dataset_path)) # 初始化我们提取的面部编码列表和相应的人名 knownembeddings = [] knownnames = [] # 初始化处理的人脸总数 total = 0 # loop over the image paths for (i, imagepath) in enumerate(imagepaths): # extract the person name from the image path print("processing image {}/{}".format(i + 1,len(imagepaths))) name = imagepath.split(os.path.sep)[-2] # 加载图像,将其调整为宽度为 600 像素(同时保持纵横比),然后抓取图像尺寸 image = cv2.imread(imagepath) image = resize(image, width=600) (h, w) = image.shape[:2] # 从图像构建一个 blob imageblob = cv2.dnn.blobfromimage( cv2.resize(image, (300, 300)), 1.0, (300, 300), (104.0, 177.0, 123.0), swaprb=false, crop=false) # 使用 opencv 的基于深度学习的人脸检测器来定位输入图像中的人脸 detector.setinput(imageblob) detections = detector.forward() # ensure at least one face was found if len(detections) > 0: # 假设每个图像只有一张脸,所以找到概率最大的边界框 i = np.argmax(detections[0, 0, :, 2]) confidence = detections[0, 0, i, 2] # 确保最大概率的检测也意味着我们的最小概率测试(从而帮助过滤掉弱检测) if confidence > confidence_low: # 计算人脸边界框的 (x, y) 坐标 box = detections[0, 0, i, 3:7] * np.array([w, h, w, h]) (startx, starty, endx, endy) = box.astype("int") # 提取人脸roi并抓取roi维度 face = image[starty:endy, startx:endx] (fh, fw) = face.shape[:2] # 确保人脸宽度和高度足够大 if fw < 20 or fh < 20: continue # 为人脸 roi 构造一个 blob,然后将 blob 通过我们的人脸嵌入模型来获得人脸的 128-d 量化 faceblob = cv2.dnn.blobfromimage(face, 1.0 / 255, (96, 96), (0, 0, 0), swaprb=true, crop=false) embedder.setinput(faceblob) vec = embedder.forward() # 将人名+对应的人脸嵌入添加到各自的列表中 knownnames.append(name) knownembeddings.append(vec.flatten()) total += 1 # 保存编码文件 print("serializing {} encodings...".format(total)) data = {"embeddings": knownembeddings, "names": knownnames} f = open(embeddings_path, "wb") f.write(pickle.dumps(data)) f.close()
加载人脸检测器和编码器:
检测器:使用基于caffe的dl人脸检测器来定位图像中的人脸。
编码器:模型基于torch,负责通过深度学习特征提取来提取人脸编码。
接下来,让我们抓取图像路径并执行初始化。
遍历 imagepaths。从路径中提取人名。
构造了一个 blob。
然后,通过将 imageblob 通过检测器网络来检测图像中的人脸。
检测列表包含定位图像中人脸的概率和坐标。
假设我们至少有一个检测,将进入 if 语句的主体。
假设图像中只有一张脸,因此提取具有最高置信度的检测并检查以确保置信度满足用于过滤弱检测的最小概率阈值。
假设已经达到了这个阈值,提取面部 roi 并抓取/检查尺寸以确保面部 roi 足够大。
然后,我们将利用编码器 并提取人脸编码。
继续构建另一个 blob。
随后,将 faceblob 通过编码器 。 这会生成一个 128 维向量 (vec) 来描述面部。
然后我们简单地将名称和嵌入 vec 分别添加到 knownnames 和 knownembeddings 中。
继续循环图像、检测人脸并为数据集中的每个图像提取人脸编码的过程。
循环结束后剩下的就是将数据转储到磁盘。
运行结果:
loading face detector...
loading face recognizer...
quantifying faces...
processing image 1/19
processing image 2/19
processing image 3/19
processing image 4/19
processing image 5/19
processing image 6/19
processing image 7/19
processing image 8/19
processing image 9/19
processing image 10/19
processing image 11/19
processing image 12/19
processing image 13/19
processing image 14/19
processing image 15/19
processing image 16/19
processing image 17/19
processing image 18/19
processing image 19/19
serializing 19 encodings...
process finished with exit code 0
训练人脸识别模型
已经为每张脸提取了 128 维编码——但是我们如何根据这些嵌入来识别一个人呢?
答案是我们需要在嵌入之上训练一个“标准”机器学习模型(例如 svm、k-nn 分类器、随机森林等)。
今天我们使用svm实现
打开 train_face.py 文件并插入以下代码:
from sklearn.preprocessing import labelencoder from sklearn.svm import svc import pickle embeddings_path='output/embeddings.pickle' recognizer_path='output/recognizer.pickle' lable_path='output/le.pickle' # 加载编码模型 print("[info] loading face embeddings...") data = pickle.loads(open(embeddings_path, "rb").read()) # 给label编码 print("[info] encoding labels...") le = labelencoder() labels = le.fit_transform(data["names"]) # 训练用于接受人脸 128-d 嵌入的模型,然后产生实际的人脸识别 recognizer = svc(c=1.0, kernel="linear", probability=true) recognizer.fit(data["embeddings"], labels) # 保存模型 f = open(recognizer_path, "wb") f.write(pickle.dumps(recognizer)) f.close() # 保存lable f = open(lable_path, "wb") f.write(pickle.dumps(le)) f.close()
导入包和模块。 我们将使用 scikit-learn 的支持向量机 (svm) 实现,这是一种常见的机器学习模型。
定义变量。
- embeddings_path:序列化编码。
- recognizer_path:这将是我们识别人脸的输出模型。 它基于 svm。
- lable_path:标签编码器输出文件路径
加载编码。
然后初始化 scikit-learn labelencoder 并编码名称标签。
训练模型。本文使用的是线性支持向量机 (svm),但如果您愿意,您可以尝试使用其他机器学习模型进行试验。
训练模型后,我们将模型和标签编码器保存到电脑上。
运行train_face.py 脚本。
识别图像中的人脸
新建脚本文件recognize_face.py,插入一下代码:
import numpy as np import pickle import cv2 import os
导入包,然后我们需要新增一个resize方法。
def resize(image, width=none, height=none, inter=cv2.inter_area): dim = none (h, w) = image.shape[:2] # 如果高和宽为none则直接返回 if width is none and height is none: return image # 检查宽是否是none if width is none: # 计算高度的比例并并按照比例计算宽度 r = height / float(h) dim = (int(w * r), height) # 高为none else: # 计算宽度比例,并计算高度 r = width / float(w) dim = (width, int(h * r)) resized = cv2.resize(image, dim, interpolation=inter) # return the resized image return resized
等比例resize图像,定义变量:
image_path = '11.jpg' detector_path = 'face_dete_model' embedding_path = 'nn4.small2.v1.t7' recognizer_path = 'output/recognizer.pickle' label_path = 'output/le.pickle' confidence_low = 0.5
这六个变量的含义如下:
- image_path :输入图像的路径。
- detector_path:opencv 深度学习人脸检测器的路径。 使用这个模型来检测人脸 roi 在图像中的位置。
- embedding_path : opencv 深度学习人脸编码模型的路径。 我们将使用这个模型从人脸 roi 中提取 128 维人脸嵌入——然后将把数据输入到识别器中。
- recognizer_path :识别器模型的路径。
- label_path : 标签编码器的路径。
- confidence_low:过滤弱人脸检测的可选阈值。
接下来是代码的主体部分:
# 加载序列化人脸检测器 print("[info] loading face detector...") protopath = os.path.sep.join([detector_path, "deploy.proto.txt"]) modelpath = os.path.sep.join([detector_path,"res10_300x300_ssd_iter_140000_fp16.caffemodel"]) detector = cv2.dnn.readnetfromcaffe(protopath, modelpath) # 加载我们序列化的人脸编码模型 print("[info] loading face recognizer...") embedder = cv2.dnn.readnetfromtorch(embedding_path) # 加载实际的人脸识别模型和标签编码器 recognizer = pickle.loads(open(recognizer_path, "rb").read()) le = pickle.loads(open(label_path, "rb").read()) # 加载图像,将其调整为宽度为 600 像素(同时保持纵横比),然后抓取图像尺寸 image = cv2.imread(image_path) image = resize(image, width=600) (h, w) = image.shape[:2] # 从图像构建一个 blob imageblob = cv2.dnn.blobfromimage( cv2.resize(image, (300, 300)), 1.0, (300, 300), (104.0, 177.0, 123.0), swaprb=false, crop=false) # 应用 opencv 的基于深度学习的人脸检测器来定位输入图像中的人脸 detector.setinput(imageblob) detections = detector.forward() # loop over the detections for i in range(0, detections.shape[2]): # 提取与预测相关的置信度(即概率) confidence = detections[0, 0, i, 2] # filter out weak detections if confidence > confidence_low: # 计算人脸边界框的 (x, y) 坐标 box = detections[0, 0, i, 3:7] * np.array([w, h, w, h]) (startx, starty, endx, endy) = box.astype("int") # 提取人脸roi face = image[starty:endy, startx:endx] (fh, fw) = face.shape[:2] # 确保人脸宽度和高度足够大 if fw < 20 or fh < 20: continue # 为人脸 roi 构造一个 blob,然后将 blob 通过我们的人脸嵌入模型来获得人脸的 128-d 量化 faceblob = cv2.dnn.blobfromimage(face, 1.0 / 255, (96, 96), (0, 0, 0), swaprb=true, crop=false) embedder.setinput(faceblob) vec = embedder.forward() # 执行分类以识别人脸 preds = recognizer.predict_proba(vec)[0] j = np.argmax(preds) proba = preds[j] name = le.classes_[j] # 绘制人脸的边界框以及相关的概率 text = "{}: {:.2f}%".format(name, proba * 100) y = starty - 10 if starty - 10 > 10 else starty + 10 cv2.rectangle(image, (startx, starty), (endx, endy), (0, 0, 255), 2) cv2.puttext(image, text, (startx, y), cv2.font_hershey_simplex, 1, (0, 0, 255), 2) # 展示结果 cv2.imshow("image", image) cv2.waitkey(0)
我们在这个块中加载三个模型。 冒着冗余的风险,我想明确提醒您模型之间的差异:
- 检测器:一个预训练的 caffe dl 模型,用于检测人脸在图像中的位置。
- embedder:一个预训练的 torch dl 模型,用于计算我们的 128-d 人脸嵌入。
- 识别器:线性 svm 人脸识别模型。
1 和 2 都是预先训练好的,这意味着它们是由 opencv 按原样提供给您的
加载标签编码器,其中包含我们的模型可以识别的人的姓名。
将图像加载到内存中并构建一个 blob。
通过我们的检测器定位图像中的人脸。
您将从步骤 1 中识别出此块。 我在这里再解释一遍:
遍历检测并提取每个检测的置信度。
然后将置信度与命令行 最小概率检测阈值进行比较,确保计算出的概率大于最小概率。
我们提取人脸 roi并确保它的空间维度足够大。
下面是识别人脸 roi代码:
首先,构建一个 faceblob)并将其通过编码器以生成描述面部的 128 维向量
然后,我们将 vec 通过我们的 svm 识别器模型,其结果是我们对面部 roi 中的人的预测。
我们取最高概率指数并查询我们的标签编码器以找到名称。
循环中识别每一张脸(包括“未知”)人:
在构造了一个包含名称和概率的文本字符串。
然后在脸部周围绘制一个矩形并将文本放在框上方。
最后我们在屏幕上可视化结果,直到按下某个键。
可以看出使用机器学习的方式准确率还是比较低的,但是优点是速度快。
摄像头识别人脸
这里我用视频代替,代码和图像中识别人脸的步骤一致,直接上代码。
新建recognize_video.py脚本,插入一下代码:
import numpy as np import pickle import time import cv2 import os def resize(image, width=none, height=none, inter=cv2.inter_area): dim = none (h, w) = image.shape[:2] # 如果高和宽为none则直接返回 if width is none and height is none: return image # 检查宽是否是none if width is none: # 计算高度的比例并并按照比例计算宽度 r = height / float(h) dim = (int(w * r), height) # 高为none else: # 计算宽度比例,并计算高度 r = width / float(w) dim = (width, int(h * r)) resized = cv2.resize(image, dim, interpolation=inter) # return the resized image return resized out_put='output.avi' video_path = '1.mp4' detector_path = 'face_dete_model' embedding_path = 'nn4.small2.v1.t7' recognizer_path = 'output/recognizer.pickle' label_path = 'output/le.pickle' confidence_low = 0.5 # load our serialized face detector from disk print("[info] loading face detector...") protopath = os.path.sep.join([detector_path, "deploy.proto.txt"]) modelpath = os.path.sep.join([detector_path,"res10_300x300_ssd_iter_140000_fp16.caffemodel"]) detector = cv2.dnn.readnetfromcaffe(protopath, modelpath) # load our serialized face embedding model from disk print("[info] loading face recognizer...") embedder = cv2.dnn.readnetfromtorch(embedding_path) # load the actual face recognition model along with the label encoder recognizer = pickle.loads(open(recognizer_path, "rb").read()) le = pickle.loads(open(label_path, "rb").read()) # initialize the video stream, then allow the camera sensor to warm up print("[info] starting video stream...") #vs = cv2.videocapture(0) #摄像头 vs=cv2.videocapture(video_path)# 视频 time.sleep(2.0) # start the fps throughput estimator writer=none # loop over frames from the video file stream while true: # grab the frame from the threaded video stream ret_val, frame = vs.read() if ret_val is false: break # resize the frame to have a width of 600 pixels (while # maintaining the aspect ratio), and then grab the image # dimensions frame = resize(frame, width=600) (h, w) = frame.shape[:2] # construct a blob from the image imageblob = cv2.dnn.blobfromimage( cv2.resize(frame, (300, 300)), 1.0, (300, 300), (104.0, 177.0, 123.0), swaprb=false, crop=false) # apply opencv's deep learning-based face detector to localize # faces in the input image detector.setinput(imageblob) detections = detector.forward() # loop over the detections for i in range(0, detections.shape[2]): # extract the confidence (i.e., probability) associated with # the prediction confidence = detections[0, 0, i, 2] # filter out weak detections if confidence >confidence_low: # compute the (x, y)-coordinates of the bounding box for # the face box = detections[0, 0, i, 3:7] * np.array([w, h, w, h]) (startx, starty, endx, endy) = box.astype("int") # extract the face roi face = frame[starty:endy, startx:endx] (fh, fw) = face.shape[:2] # ensure the face width and height are sufficiently large if fw < 20 or fh < 20: continue # construct a blob for the face roi, then pass the blob # through our face embedding model to obtain the 128-d # quantification of the face faceblob = cv2.dnn.blobfromimage(face, 1.0 / 255, (96, 96), (0, 0, 0), swaprb=true, crop=false) embedder.setinput(faceblob) vec = embedder.forward() # perform classification to recognize the face preds = recognizer.predict_proba(vec)[0] j = np.argmax(preds) proba = preds[j] name = le.classes_[j] # draw the bounding box of the face along with the # associated probability text = "{}: {:.2f}%".format(name, proba * 100) y = starty - 10 if starty - 10 > 10 else starty + 10 cv2.rectangle(frame, (startx, starty), (endx, endy), (0, 0, 255), 2) cv2.puttext(frame, text, (startx, y), cv2.font_hershey_simplex, 0.45, (0, 0, 255), 2) if writer is none and out_put is not none: fourcc = cv2.videowriter_fourcc(*"mjpg") writer = cv2.videowriter(out_put, fourcc, 20, (frame.shape[1], frame.shape[0]), true) # 如果 writer 不是 none,则将识别出人脸的帧写入磁盘 if writer is not none: writer.write(frame) # show the output frame cv2.imshow("frame", frame) key = cv2.waitkey(1) & 0xff # if the `q` key was pressed, break from the loop if key == ord("q"): break # do a bit of cleanup cv2.destroyallwindows() vs.release() if writer is not none: writer.release()
运行结果:
以上就是人脸识别实战之opencv+svm实现人脸识别的详细内容,更多关于opencv svm人脸识别的资料请关注其它相关文章!
上一篇: goland最新激活办法