前言
> 疲劳驾驶，是指在长时间连续行车后，驾驶员在心理技能和生理机制上发生变化，在客观上表现为驾驶技能的下降，并且表现出打瞌睡、反应迟钝、四肢无力、注意力不集中以及判断能力下降等现象。具不完全统计，50%的交通安全事故起源驾驶员意识不清醒从而酿成车祸。
> 对驾驶员的疲劳状态进行实时检测是汽车安全驾驶的关键的一环，因此在驾驶车辆时需要对驾驶员的疲劳状态进行实时检测及时做出预警。基于视觉特征的驾驶员疲劳状态检测方法，主要是利用摄像机对驾驶状态下的驾驶员面部特征进行实时采集，然后使用基于视觉以及图像处理的方法，获取得到驾驶员的眼部、嘴部以及头部区域信息等特征信息。最后，使用一定的判别方法对提取到的驾驶员眨眼间频率，打哈欠等特征分析，对驾驶员疲劳状态进行检测。随着当前深度学习方法在目标检测方向上的应用深入，基于YOLOv5的目标检测方法具有应用的可能性与应用前景。
> 基于YOLOv5的疲劳驾驶检测系统应用深度学习技术检测常见驾驶过程中可能存在的疲劳驾驶行为，包括闭眼、打哈欠等常见行为，以方便对驾驶员的安全驾驶进行监测分析；系统采用登录注册进行用户管理；对于图片、视频和摄像头捕获的实时画面，系统可检测画面中的疲劳驾驶行为；系统支持结果记录、展示和保存，每次检测的结果记录在表格中。对此这里给出博主设计的界面，同款的简约风，功能也可以满足图片、视频和摄像头的识别检测，希望大家可以喜欢，初始界面如下图：
> 检测类别时的界面截图（点击图片可放大）如下图，可识别画面中存在的多个类别，也可开启摄像头或视频检测：
> 详细的功能演示效果参见博主的B站视频或下一节的动图演示，觉得不错的朋友敬请点赞、关注加收藏！系统UI界面的设计工作量较大，界面美化更需仔细雕琢，大家有任何建议或意见和可在下方评论交流。
1. 效果演示
> 这里通过动图看一下识别的效果，系统主要实现的功能是对图片、视频和摄像头画面中的疲劳驾驶行为进行识别，识别的结果可视化显示在界面和图像中，另外提供多个人脸的显示选择功能，演示效果如下。
>（一）系统介绍
> 经查阅相关文献，疲劳在人体面部表情中表现出大致三个类型：打哈欠（嘴巴张大且相对较长时间保持这一状态）、眨眼（或眼睛微闭，此时眨眼次数增多，且眨眼速度变慢）等。这里使用YOLOv5识别这些数据特征，实时地分析驾驶员的疲劳驾驶行为，并及时作出安全提示。
>（二）技术特点
> （1）YOLO v5算法实现，模型一键切换更新；
> （2）检测图片、视频等图像中的各疲劳驾驶行为；
> （3）摄像头监控实时检测，便携展示、记录和保存；
> （4）支持用户登录、注册，检测结果可视化功能；
> （5）提供训练数据集和代码，可重新训练模型；
>（三）用户注册登录界面
> 对于系统登录界面如下图所示，可以输入用户名和密码进行登录注册功能，在输入正确后可以进入主界面。
>（四）选择图片识别
> 系统可以选择图片文件进行识别，点击图片选择按钮图标选择图片后，显示所有人脸识别的结果，可通过下拉选框查看单个结果，以便具体判断某一疲劳驾驶人员。本功能的界面展示如下图所示：
>（五）视频识别效果展示
> 如果要识别视频中的疲劳驾驶情况，可以点击视频按钮可选择待检测的视频，系统会自动解析视频逐帧识别人脸，并将是否疲劳驾驶的结果记录在右下角表格中，效果如下图所示：
>（六）摄像头检测效果展示
> 在真实场景中，如果需要利用设备摄像头获取实时画面，并对画面中的疲劳驾驶行为进行识别，可点击摄像头按钮后系统进入准备状态，系统显示实时画面并开始检测画面中的驾驶员，识别结果展示如下图：
2. 疲劳驾驶检测
>（一）疲劳驾驶数据集
> 这里我们使用的疲劳驾驶数据集，包含训练数据集656张图片、验证集188张图片、测试集94张图片，共计938张图片。
> 每张图像均提供了图像类标记信息，图像中疲劳驾驶的bounding box，数据集并解压后得到如下的图片。
>（二）网络结构
> Yolov5网络结构是由Input、Backbone、Neck、Prediction组成。Yolov5的Input部分是网络的输入端，采用Mosaic数据增强方式，对输入数据随机裁剪，然后进行拼接。Backbone是Yolov5提取特征的网络部分，特征提取能力直接影响整个网络性能。Yolov5的Backbone相比于之前Yolov4提出了新的Focus结构。Focus结构是将图片进行切片操作，将W（宽）、H（高）信息转移到了通道空间中，使得在没有丢失任何信息的情况下，进行了2倍下采样操作。
>（三）训练过程
> 网络的训练由于数据量较大进行实验时将数据分为多个批次， 每个批次中含有 一定数目图像， 经过前向、 反向传播后更新网络参数， 训练出误差合适的网络。测试时， 图像由网络进行识别， 根据得到的识别正确率来验证网络的可行性。
> 对前面介绍过的数据集经过处理后标签文件均转换为YOLOv5训练所需的标记格式，基于此数据集，我们在train.py中设置必要参数后，运行该脚本进行模型训练，训练过程在终端的显示如下图所示。
> 在深度学习中，我们通常通过损失函数下降的曲线来观察模型训练的情况。而YOLOv5训练时主要包含三个方面的损失：矩形框损失(box_loss)、置信度损失（obj_loss）和分类损失(cls_loss)，模型训练曲线图如下图所示。
> 一般我们会利用召回率recall和精度precision，两个指标p和r都是简单地从一个角度来判断模型的好坏，为了综合评价目标检测的性能，一般采用均值平均密度map来进一步评估模型的好坏。我们通过设定不同的置信度的阈值，可以得到在模型在不同的阈值下所计算出的p值和r值，一般情况下，p值和r值是负相关的，绘制出来可以得到如下图所示的曲线。
>（四）预测过程
> 在训练完成后得到最佳模型，接下来我们将帧图像输入到这个网络进行预测，从而得到预测结果，其中预测方法（predict.py）部分的代码如下所示：
python def predict(img): img = torch.from_numpy(img).to(device) img = img.half() if half else img.float() img /= 255.0 if img.ndimension() == 3: img = img.unsqueeze(0) t1 = time_synchronized() pred = model(img, augment=False)[0] pred = non_max_suppression(pred, opt.conf_thres, opt.iou_thres, classes=opt.classes, agnostic=opt.agnostic_nms) t2 = time_synchronized() InferNms = round((t2 - t1), 2) return pred, InferNms > 得到预测结果我们便可以将帧图像中的目标框出，以下是读取视频文件并进行检测的脚本，首先将图片数据进行预处理后送predict进行检测，然后计算标记框的位置并在图中标注出来。 python if __name__ == '__main__': # video_path = 0 video_path = "./UI_rec/test_/疲劳驾驶检测.mp4" # 初始化视频流 vs = cv2.VideoCapture(video_path) (W, H) = (None, None) frameIndex = 0 # 视频帧数 try: prop = cv2.CAP_PROP_FRAME_COUNT total = int(vs.get(prop)) # print("[INFO] 视频总帧数：{}".format(total)) # 若读取失败，报错退出 except: print("[INFO] could not determine # of frames in video") print("[INFO] no approx. completion time can be provided") total = -1 fourcc = cv2.VideoWriter_fourcc(*'XVID') ret, frame = vs.read() vw = 850 vh = 500 print("[INFO] 视频尺寸：{} * {}".format(vw, vh)) output_video = cv2.VideoWriter("./results.avi", fourcc, 20.0, (vw, vh)) # 处理后的视频对象 # 遍历视频帧进行检测 while True: # 从视频文件中逐帧读取画面 (grabbed, image) = vs.read() image = cv2.resize(image, (850, 500)) # 若grabbed为空，表示视频到达最后一帧，退出 if not grabbed: print("[INFO] 运行结束...") output_video.release() vs.release() exit() # 获取画面长宽 if W is None or H is None: (H, W) = image.shape[:2] img0 = image.copy() img = letterbox(img0, new_shape=imgsz)[0] img = np.stack(img, 0) img = img[:, :, ::-1].transpose(2, 0, 1) # BGR to RGB, to 3x416x416 img = np.ascontiguousarray(img) pred, useTime = predict(img) det = pred[0] p, s, im0 = None, '', img0 if det is not None and len(det): # 如果有检测信息则进入 det[:, :4] = scale_coords(img.shape[1:], det[:, :4], im0.shape).round() # 把图像缩放至im0的尺寸 number_i = 0 # 类别预编号 detInfo = [] for *xyxy, conf, cls in reversed(det): # 遍历检测信息 c1, c2 = (int(xyxy[0]), int(xyxy[1])), (int(xyxy[2]), int(xyxy[3])) # 将检测信息添加到字典中 detInfo.append([names[int(cls)], [c1[0], c1[1], c2[0], c2[1]], '%.2f' % conf]) number_i += 1 # 编号数+1 label = '%s %.2f' % (names[int(cls)], conf) # 画出检测到的目标物 plot_one_box(image, xyxy, label=label, color=colors[int(cls)]) # 实时显示检测画面 cv2.imshow('Stream', image) output_video.write(image) # 保存标记后的视频 if cv2.waitKey(1) & 0xFF == ord('q'): break # print("FPS:{}".format(int(0.6/(end-start)))) frameIndex += 1
> 执行得到的结果如下图所示，图中行人和置信度值都标注出来了，预测速度较快。基于此模型我们可以将其封装成一个带有界面的系统，在界面上选择图片、视频或摄像头然后调用模型进行检测。
> 博主对整个系统进行了详细测试，最终开发出一版流畅得到清新界面，就是博文演示部分的展示，完整的UI界面、测试图片视频、代码文件，以及Python离线依赖包（方便安装运行，也可自行配置环境），均已打包上传，感兴趣的朋友可以通过下载链接获取。
