前言
火灾事故的产生始终是人们在日常生活中较难避免的灾情其中之一。人们一直以来尝试寻找正确的方式降低火灾事故所带来的经济财产损失。虽说完全杜绝火灾事故的产生不切实际，但是能够数据监测火灾事故的产生，根据声光报警，快速查找明火，用最快的时间灭掉它，以此降低火灾事故造成的损失，所以火焰和烟雾的识别始终是人们研究至关重要的方向。
火焰与烟雾分辨，搭配监控摄像头，实时分辨监管物流仓库内不同区域发生的明火状况，若检测过有火灾安全隐患，立刻发出预警并通报监测中心解决。火焰与烟雾分辨预警平台自动识别烟火监测系统充分运用已有普通的视频监控，无须安装热成像相机，无需控制器。火焰与烟雾分辨预警平台自动识别烟火监测系统根据智能视频分析和深度学习神经网络技术，完成对监管区域范围火焰开展实时分析识、告警，同时把火焰屏幕截图和烟火视频保留下来，同时把火灾数据及时推送到有关的人员及时进行处理。
本系统基于YoloV5，采用登录注册进行用户管理，对于图片、视频和摄像头捕获的实时画面，可检测火焰与烟雾，系统支持结果记录、展示和保存，每次检测的结果记录在表格中。对此这里给出博主设计的界面，同款的简约风，功能也可以满足图片、视频和摄像头的识别检测，希望大家可以喜欢，初始界面如下图：
检测类别时的界面截图（点击图片可放大）如下图，可识别画面中存在的多个类别，也可开启摄像头或视频检测：
详细的功能演示效果参见博主的B站视频或下一节的动图演示，觉得不错的朋友敬请点赞、关注加收藏！系统UI界面的设计工作量较大，界面美化更需仔细雕琢，大家有任何建议或意见和可在下方评论交流。
1. 效果演示
软件好不好用，颜值很重要，首先我们还是通过动图看一下识别的效果，系统主要实现的功能是对图片、视频和摄像头画面中的火焰与烟雾进行识别，识别的结果可视化显示在界面和图像中，另外提供多个目标的显示选择功能，演示效果如下。
（一）系统介绍
智能火焰与烟雾检测系统主要用于日常场景中火灾检测，识别火焰与烟雾并标注着火点的数目、位置、预测置信度等；连接摄像头设备可开启实时检测功能，另外对图片、视频等文件中的火焰烟雾情况也可进行测试和检测；登录系统提供用户注册、登录、管理功能；训练和调优的模型可有效检测火灾情况，模型可选择切换；可选择单个目标进行单独显示和标注，结果一键保存。
（二）技术特点
（1）检测算法采用YoloV5深度学习模型，便捷式训练和切换；
（2）选择图片、视频或摄像头方式检测火焰与烟雾情况；
（3）界面基于PyQt5实现，结果展示、切换和保存功能；
（4）支持用户登录、注册、管理，界面缩放、可视化等功能；
（三）用户注册登录界面
这里设计了一个登录界面，可以注册账号和密码，然后进行登录。界面还是参考了当前流行的UI设计，左侧是一个动图，右侧输入账号、密码、验证码等等。
（四）选择图片识别
系统允许选择图片文件进行识别，点击图片选择按钮图标选择图片后，显示所有识别的结果，可通过下拉选框查看单个结果，以便具体判断某一特定目标。本功能的界面展示如下图所示：
（五）视频识别效果展示
很多时候我们需要识别一段视频中的多个火焰与烟雾，这里设计了视频选择功能。点击视频按钮可选择待检测的视频，系统会自动解析视频逐帧识别多个火焰与烟雾，并将火焰与烟雾的分类和计数结果记录在右下角表格中，效果如下图所示：
（六）摄像头检测效果展示
在真实场景中，我们往往利用摄像头获取实时画面，同时需要对火焰与烟雾进行识别，因此本文考虑到此项功能。如下图所示，点击摄像头按钮后系统进入准备状态，系统显示实时画面并开始检测画面中的火焰与烟雾，识别结果展示如下图：
2. 智能火焰与烟雾数据集及训练
YOLO简介
YOLO的名字来历颇有意思，他的本意是流行语You Only Live Once的缩写，而模型的作者Joseph Redmon改了一个词将You Only Look One作为模型的名字。这是由于，相对于R-CNN系列算法将检测问题分解为划定位置和判定类别分两步做，YOLO系列算法没有显式寻找区域的过程，可以实现端到端的快速预测，即输入一幅图片，在输出中给出若干目标的位置、类别和置信度。
而相对于同样是一步到位的SSD算法，YOLO系列的特点在于算法一经发出，便有各种各样的人和团队对他进行更新迭代。通过不断地更新迭代模型版本，YOLO也得到了效果上持续的提升和更广泛的关注。但值得注意的是，YOLO模型的原作者Joseph Redmon更新到v3版本后就退出了相关的研究，而后续的版本都是其他研究人员的工作，包括我们今天介绍的YoloV5。
我们首先介绍一下最原始的YOLO模型，然后简要介绍一下YoloV5版本，主要通过具体的例子一起看看怎么把YOLOv5模型用好。
YOLOv1的网络结构并没有什么特别，和我们熟悉的图像分类一样都是卷积神经网络，但它的输出向量却不太一样。如果把神经网络看作我们熟悉的回归分析问题，那YOLO做的事情就是改变了模型响应的结构，而这也奠定了YOLO目标检测的基础。YOLO的输出向量不仅包括目标的类别，还有边界框的坐标和预测的置信度。它的核心思想在于把图像分割成S*S的若干个小块，在每个格子中预先放置两个边界框，通过卷积神经网络预测得到每个边界框的坐标、类别和置信度，然后通过非极大值抑制获得局部唯一的预测框。
经过若干年的版本迭代，YoloV5的网络结构博采众长，已经变得格外复杂，主要包括在Backbone中通过卷积和池化网络结构提取特征，在Neck部分不断地和之前提取的特征进行融合，Head部分则是用来进行最终的检测和输出，如下图所示。
我们今天选取YoloV5作为介绍，一方面是因为从最终效果来看YoloV5已经相当优秀，是发展的比较完备、使用比较广泛的一个版本；而更重要的是YoloV5的调用、训练和预测都十分方便，为初学者提供了良好的练手工具。YoloV5的另一个特点就是它为不同的设备需求和不同的应用场景提供了大小和参数数量不同的网络。
如图所示，大一点的模型比如YOLOv5l和YOLOv5x参数更多，在大规模的COCO数据集上有更高的预测准确率；而小模型比如YOLOv5n或YOLOv5s占空间更小，适合部署在移动设备上，且推理速度更快，适合于高帧 率视频的实时检测。
数据集介绍
这里我们使用的火焰与烟雾识别数据集，包含训练集3850张图片，验证集405张，测试集218张图片，共计4473张图片。其中部分图像和标注如下图所示。
每张图像均提供了图像类标记信息，图像中的bounding box，关键part信息，以及属性信息，数据集并解压后得到如下的图片。
配置模型的参数即可训练，设置好模型的地址，图形的输入尺寸为480×480，置信度阈值设为0.25，NMS阈值设为0.45，使用GPU进行训练。
python parser = argparse.ArgumentParser() parser.add_argument('--weights', nargs='+', type=str, default='./weights/fireSmoke-best.pt', help='model.pt path(s)') # 模型路径仅支持.pt文件 parser.add_argument('--img-size', type=int, default=480, help='inference size (pixels)') # 检测图像大小，仅支持480 parser.add_argument('--conf-thres', type=float, default=0.25, help='object confidence threshold') # 置信度阈值 parser.add_argument('--iou-thres', type=float, default=0.45, help='IOU threshold for NMS') # NMS阈值 # 选中运行机器的GPU或者cpu，有GPU则GPU，没有则cpu，若想仅使用cpu，可以填cpu即可 parser.add_argument('--device', default='', help='cuda device, i.e. 0 or 0,1,2,3 or cpu') parser.add_argument('--save-dir', type=str, default='inference', help='directory to save results') # 文件保存路径 parser.add_argument('--classes', nargs='+', type=int, help='filter by class: --class 0, or --class 0 2 3') # 分开类别 parser.add_argument('--agnostic-nms', action='store_true', help='class-agnostic NMS') # 使用NMS opt = parser.parse_args() # opt局部变量，重要 out, weight, imgsz = opt.save_dir, opt.weights, opt.img_size # 得到文件保存路径，文件权重路径，图像尺寸 device = select_device(opt.device) # 检验计算单元,gpu还是cpu half = device.type != 'cpu' # 如果使用gpu则进行半精度推理 model = attempt_load(weight, map_location=device) # 读取模型 imgsz = check_img_size(imgsz, s=model.stride.max()) # 检查图像尺寸 if half: # 如果是半精度推理 model.half() # 转换模型的格式 names = model.module.names if hasattr(model, 'module') else model.names # 得到模型训练的类别名 colors = [[random.randint(0, 255) for _ in range(3)] for _ in range(len(names))] # 给每个类别一个颜色 img = torch.zeros((1, 3, imgsz, imgsz), device=device) # 创建一个图像进行预推理 _ = model(img.half() if half else img) if device.type != 'cpu' else None # 预推理
在cmd终端中运行train.py进行训练，以下是训练过程中的结果截图。历经8小时，便完成了训练，模型大小为14.1Mb。
在深度学习中，我们通常通过损失函数下降的曲线来观察模型训练的情况。而YOLOv5训练时主要包含三个方面的损失：矩形框损失(box_loss)、置信度损失（obj_loss）和分类损失(cls_loss)，在训练结束后，我们也可以在logs目录下找到生成对若干训练过程统计图。下图为博主训练火焰和烟雾识别的模型训练曲线图。
一般我们会接触到两个指标，分别是召回率recall和精度precision，两个指标p和r都是简单地从一个角度来判断模型的好坏，均是介于0到1之间的数值，其中接近于1表示模型的性能越好，接近于0表示模型的性能越差，为了综合评价目标检测的性能，一般采用均值平均密度map来进一步评估模型的好坏。我们通过设定不同的置信度的阈值，可以得到在模型在不同的阈值下所计算出的p值和r值，一般情况下，p值和r值是负相关的，绘制出来可以得到如下图所示的曲线，其中曲线的面积我们称AP，目标检测模型中每种目标可计算出一个AP值，对所有的AP值求平均则可以得到模型的mAP值。
以PR-curve为例，可以看到我们的模型在验证集上的均值平均准确率为0.676。
3. 智能火焰与烟雾检测
在训练完成后得到最佳模型，接下来我们将帧图像输入到这个网络进行预测，从而得到预测结果，预测方法（predict.py）部分的代码如下所示：
python def predict(img): img = torch.from_numpy(img).to(device) img = img.half() if half else img.float() img /= 255.0 if img.ndimension() == 3: img = img.unsqueeze(0) t1 = time_synchronized() pred = model(img, augment=False)[0] pred = non_max_suppression(pred, opt.conf_thres, opt.iou_thres, classes=opt.classes, agnostic=opt.agnostic_nms) t2 = time_synchronized() InferNms = round((t2 - t1), 2) return pred, InferNms
得到预测结果我们便可以将帧图像中的火焰与烟雾框出，然后在图片上用opencv绘图操作，输出火焰与烟雾的类别及火焰与烟雾的预测分数。以下是读取一个火焰与烟雾图片并进行检测的脚本，首先将图片数据进行预处理后送predict进行检测，然后计算标记框的位置并在图中标注出来。
python if __name__ == '__main__': img_path = "./UI_rec/test_/Burning-Couches_-The-Sequel-_mp4-96_jpg.rf.28706d695c18b0daccc1711efdebab0a.jpg" image = cv_imread(img_path) image = cv2.resize(image, (850, 500)) img0 = image.copy() img = letterbox(img0, new_shape=imgsz)[0] img = np.stack(img, 0) img = img[:, :, ::-1].transpose(2, 0, 1) # BGR to RGB, to 3x416x416 img = np.ascontiguousarray(img) pred, useTime = predict(img) det = pred[0] p, s, im0 = None, '', img0 if det is not None and len(det): # 如果有检测信息则进入 det[:, :4] = scale_coords(img.shape[1:], det[:, :4], im0.shape).round() # 把图像缩放至im0的尺寸 number_i = 0 # 类别预编号 detInfo = [] for *xyxy, conf, cls in reversed(det): # 遍历检测信息 c1, c2 = (int(xyxy[0]), int(xyxy[1])), (int(xyxy[2]), int(xyxy[3])) # 将检测信息添加到字典中 detInfo.append([names[int(cls)], [c1[0], c1[1], c2[0], c2[1]], '%.2f' % conf]) number_i += 1 # 编号数+1 label = '%s %.2f' % (names[int(cls)], conf) # 画出检测到的目标物 plot_one_box(image, xyxy, label=label, color=colors[int(cls)]) # 实时显示检测画面 cv2.imshow('Stream', image) # if cv2.waitKey(1) & 0xFF == ord('q'): # break c = cv2.waitKey(0) & 0xff
执行得到的结果如下图所示，图中火焰与烟雾的种类和置信度值都标注出来了，预测速度较快。基于此模型我们可以将其设计成一个带有界面的系统，在界面上选择图片、视频或摄像头然后调用模型进行检测。
博主对整个系统进行了详细测试，最终开发出一版流畅得到清新界面，就是博文演示部分的展示，完整的UI界面、测试图片视频、代码文件，以及Python离线依赖包（方便安装运行，也可自行配置环境），均已打包上传，感兴趣的朋友可以通过下载链接获取。
