一、OpenCV简介
OpenCV 的全称是 Open Source Computer Vision Library，是一个跨平台的计算机视觉库。OpenCV 是由英特尔公司发起并参与开发，以 BSD 许可证授权发行，可以在商业和研究领域中免费使用。OpenCV 可用于开发实时的图像处理、计算机视觉以及模式识别程序。该程序库也可以使用英特尔公司的 IPP 进行加速处理。
OpenCV 用 C++语言编写，它的主要接口也是 C++语言，但是依然保留了大量的 C 语言接口。该库也有大量的 Python、Java and MATLAB/OCTAVE（版本 2.5）的接口。这些语言的 API 接口函数可以通过在线文档获得。如今也提供对于 C#、Ch、Ruby、GO 的支持。
1. 安装 OpenCV 模块
OpenCV 已经支持 python 的模块了，直接使用 pip 就可以进行安装，命令如下：
pip install opencv-python -i some-package
2. OpenCV 基本使用
❤️读取图片
显示图像是 OpenCV 最基本的操作之一，imshow()函数可以实现该操作。如果使用过其他 GUI 框架背景，就会很自然第调用 imshow()来显示一幅图像。imshow()函数有两个参数：显示图像的帧名称以及要显示的图像本身。直接调用 imshow()函数图像确实会显示，但随即会消失。要保证图片一直在窗口上显示，要通过 waitKey()函数。waitKey()函数的参数为等待键盘触发的时间，单位为毫秒，其返回值是-1（表示没有键被按下）
【示例】读取图片
import cv2 as cv print(cv.__version__) # 打印OpenCV版本 # 加载图片 img = cv.imread("1.png") # 打印图像类型 print(type(img)) print(img) cv.imshow("image", img) # 等待时间, 毫米级, 0表示按任意键终止 cv.waitKey(0) cv.destroyAllWindows() 注意：图片路径不能有中文，否则将导致图片加载失败。
☔图片灰度转换
OpenCV 中有数百种关于在不同色彩空间之间转换的方法。当前，在计算机视觉中有三种常用的色彩空间：灰度、BGR、以及 HSV（Hue，Saturation，Value）。
灰度色彩空间是通过去除彩色信息来将其转换成灰阶，灰度色彩空间对中间处理特别有效，比如人脸识别。
BGR 及蓝、绿、红色彩空间，每一个像素点都由一个三元数组来表示，分别代表蓝、绿、红三种颜色。网页开发者可能熟悉另一个与之相似的颜色空间：RGB 它们只是颜色顺序上不同。
HSV，H（Hue）是色调，S（Saturation）是饱和度，V（Value）表示黑暗的程度（或光谱另一端的明亮程度）。
灰度转换的作用就是：转换成灰度的图片的计算强度得以降低。
【示例】将图片灰度
# 灰色显示 import cv2 as cv src = cv.imread('1.png') cv.imshow('input image', src) # cv2 读取图片的通道是 BGR（蓝绿红） # PIL 读取图片的通道是 RGB gray_img = cv.cvtColor(src, code=cv.COLOR_BGR2GRAY) cv.imshow('gray_image', gray_img) cv.waitKey(0) cv.destroyAllWindows() # 保存图片 cv.imwrite('gray_lena.jpg', gray_img)
修改图片尺寸
【示例】修改图片尺寸
import cv2 as cv
img = cv.imread('1.png') cv.imshow('input image', img) # 修改图片的尺寸 # resize_img=cv.resize(img,dsize=(110,160)) resize_img = cv.resize(img, dsize=(400, 360)) print(resize_img.shape) cv.imshow('resize_img', resize_img) # 如果键盘输入的是 q 时候 退出 while True: if ord('q') == cv.waitKey(0): break cv.destroyAllWindows()
画图
OpenCV 的强大之处的一个体现就是其可以对图片进行任意编辑，处理。 下面的这个函数最后一个参数指定的就是画笔的大小。
import cv2 as cv
img = cv.imread('1.png')
# 画矩形
x, y, w, h = 50, 50, 80, 80
cv.rectangle(img, (x, y, x + w, y + h), color=(0, 255, 0), thickness=2) # color=BGR
cv.circle(img, center=(x + w // 2, y + h // 2), radius=w // 2, color=(0, 0, 255), thickness=2)
cv.imshow('result image', img)
cv.waitKey(0)
cv.destroyAllWindows()
二、人脸检测
1. Haar 级联的概念
摄影作品可能包含很多令人愉悦的细节。但是，由于灯光、视角、视距、摄像头抖动以及数字噪声的变化，图像细节变得不稳定。人们在分类时不会受这些物理细节方面差异的影响。以前学过，在显微镜下没有两片看起来很像的雪花。幸运的是，作者生长在加拿大，已经学会如何不用显微镜来识别雪花。
因此，提取出图像的细节对产生稳定分类结果和跟踪结果很有用。这些提取的结果被称为特征，专业的表述为：从图像数据中提取特征。虽然任意像素都可以能影响多个特征，但特征应该比像素少得多。两个图像的相似程度可以通过它们对应特征的欧氏距离来度量。
Haar 特征是一种用于实现实时人脸跟踪的特征。每一个 Haar 特征都描述了相邻图像区域的对比模式。例如，边、顶点和细线都能生成具有判别性的特征。
⭐获取 Haar 级联数据
首先我们要进入 OpenCV 官网：下载你需要的版本。点击 RELEASES（发布）。如下图所示：
由于 OpenCV 支持好多平台，比如 Windows, Android, Maemo, FreeBSD, OpenBSD, iOS, Linux 和 Mac OS，一般初学者都是用 windows，点击 Windows。
然后双击下载的文件，进行安装，实质就是解压一下，解压完出来一个文件夹，其他什么也没发生。安装完后的目录结构如下。其中 build 是 OpenCV 使用时要用到的一些库文件，而 sources 中则是 OpenCV 官方为我们提供的一些 demo 示例源码。
在 sources 的一个文件夹 data/haarcascades。该文件夹包含了所有 OpenCV 的人脸检测的XML 文件，这些可用于检测静止图像、视频和摄像头所得到图像中的人脸。
2. 使用 OpenCV 进行人脸检测
静态图像中人脸检测
人脸检测首先是加载图像并检测人脸，这也是最基本的一步。为了使所得到的结果有意义，可在原始图像的人脸周围绘制矩形框。
【示例】识别图片中的人脸
import cv2 as cv def face_detect_demo(): # 将图片转换为灰度图片 gray = cv.cvtColor(img, cv.COLOR_BGR2GRAY) # 加载特征数据 face_detector = cv.CascadeClassifier(r'D:/opencv/sources/data/haarcascades/haarcascade_frontalface_alt_tree.xml') faces = face_detector.detectMultiScale(gray) for x, y, w, h in faces: cv.rectangle(img, (x, y), (x + w, y + h), color=(0, 255, 0), thickness=2) cv.imshow('result', img)
# 加载图片
img = cv.imread('lena.jpg') face_detect_demo() cv.waitKey(0) cv.destroyAllWindows()
【示例】识别图片中多张人脸
import cv2 as cv def face_detect_demo(): # 将图片灰度 gray = cv.cvtColor(img, cv.COLOR_BGR2GRAY) # 加载特征数据 face_detector = cv.CascadeClassifier('D:/opencv/sources/data/haarcascades/haarcascade_frontalface_alt_tree.xml') faces = face_detector.detectMultiScale(gray, scaleFactor=1.01) for x, y, w, h in faces: print(x, y, w, h) cv.rectangle(img, (x, y), (x + w, y + h), color=(0, 0, 255), thickness=2) # 显示图片 cv.imshow('result', img)
# 加载图片 img = cv.imread('face3.jpg') # 调用人脸检测方法 face_detect_demo() cv.waitKey(0) cv.destroyAllWindows()
3. 视频中的人脸检测
视频是一张一张图片组成的，在视频的帧上重复这个过程就能完成视频中的人脸检测。
【示例】识别视频中人脸
import cv2 as cv def face_detect_demo(img): # 将图片灰度 gray = cv.cvtColor(img, cv.COLOR_BGR2GRAY) # 加载特征数据 face_detector = cv.CascadeClassifier( 'D:/opencv/sources/data/haarcascades/haarcascade_frontalface_alt_tree.xml') faces = face_detector.detectMultiScale(gray) for x, y, w, h in faces: cv.rectangle(img, (x, y), (x + w, y + h), color=(0, 0, 255), thickness=2) cv.circle(img, center=(x + w // 2, y + h // 2), radius=(w // 2), color=(0, 255, 0), thickness=2) cv.imshow('result', img)
# 读取视频 cap = cv.VideoCapture('video.mp4') while True: flag, frame = cap.read() print('flag:', flag, 'frame.shape:', frame.shape) if not flag: break face_detect_demo(frame) if ord('q') == cv.waitKey(10): break cv.destroyAllWindows() cap.release()
三、人脸识别
人脸检测是 OpenCV 的一个很不错的功能，它是人脸识别的基础。什么是人脸识别呢？
其实就是一个程序能识别给定图像或视频中的人脸。实现这一目标的方法之一是用一系列分好类的图像来“训练”程序，并基于这些图像来进行识别。这就是 OpenCV 及其人脸识别模块进行人脸识别的过程。
人脸识别模块的另外一个重要特征是：每个识别都具有转置信（confidence）评分，因此可在实际应用中通过对其设置阈值来进行筛选。
为了对这些样本进行人脸识别，必须要在包含人脸的样本图像上进行人脸识别。这是一个学习的过程，但并不像自己提供的图像那样令人满意。
训练数据
有了数据，需要将这些样本图像加载到人脸识别算法中。所有的人脸识别算法在它们的train()函数中都有两个参数：图像数组和标签数组。这些标签表示进行识别时候某人人脸的ID，因此根据 ID 可以知道被识别的人是谁。要做到这一点，将在「trainer/」目录中保存为.yml文件。
在使用 Python 3 &OpenCV 3.0.0 进行人脸识别训练时发现异常：
AttributeError: ‘module’ object has no attribute ‘LBPHFaceRecognizer_create’OpenCV，需要安装 opencv-contrib-python 模块，直接使用 pip 就可以进行安装，命令如下：
pip install opencv-contrib-python
【示例】训练数据
import os import cv2 import sys from PIL import Image import numpy as np
def getImageAndLabels(path): facesSamples = [] ids = [] imagePaths = [os.path.join(path, f) for f in os.listdir(path)] # 检测人脸 face_detector = cv2.CascadeClassifier( 'D:/opencv/sources/data/haarcascades/haarcascade_frontalface_default.xml')
# 遍历列表中的图片 for imagePath in imagePaths: # 打开图片 PIL_img = Image.open(imagePath).convert('L') # 将图像转换为数组 img_numpy = np.array(PIL_img, 'uint8') faces = face_detector.detectMultiScale(img_numpy) # 获取每张图片的id id = int(os.path.split(imagePath)[1].split('.')[0]) for x, y, w, h in faces: facesSamples.append(img_numpy[y:y + h, x:x + w]) ids.append(id) return facesSamples, ids
if __name__ == '__main__': # 图片路径 path = './data/jm/' # 获取图像数组和id标签数组 faces, ids = getImageAndLabels(path) # 获取训练对象 recognizer = cv2.face.LBPHFaceRecognizer_create() recognizer.train(faces, np.array(ids)) # 保存文件 recognizer.write('trainer/trainer.yml')
1. 基于 LBPH 的人脸识别
LBPH（Local Binary Pattern Histogram）将检测到的人脸分为小单元，并将其与模型中的对应单元进行比较，对每个区域的匹配值产生一个直方图。由于这种方法的灵活性，LBPH是唯一允许模型样本人脸和检测到的人脸在形状、大小上可以不同的人脸识别算法。
调整后的区域中调用 predict()函数，该函数返回两个元素的数组：第一个元素是所识别个体的标签，第二个是置信度评分。所有的算法都有一个置信度评分阈值，置信度评分用来衡量所识别人脸与原模型的差距，0 表示完全匹配。可能有时不想保留所有的识别结果，则需要进一步处理，因此可用自己的算法来估算识别的置信度评分。LBPH 一个好的识别参考值要低于 50 ，任何高于 80 的参考值都会被认为是低的置信度评分。
【示例】基于 LBPH 的人脸识别
import cv2
import numpy as np
import os
# 加载训练数据集文件 recogizer = cv2.face.LBPHFaceRecognizer_create() recogizer.read('trainer/trainer.yml') # 准备识别的图片 img = cv2.imread('3.pgm') gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) face_detector = cv2.CascadeClassifier( 'D:/opencv/sources/data/haarcascades/haarcascade_frontalface_default.xml') faces = face_detector.detectMultiScale(gray) for x, y, w, h in faces: cv2.rectangle(img, (x, y), (x + w, y + h), (0, 255, 0), 2) # 人脸识别 id, confidence = recogizer.predict(gray[y:y + h, x:x + w]) print('标签id:', id, '置信评分：', confidence) cv2.imshow('result', img) cv2.waitKey(0) cv2.destroyAllWindows()
