前言
人工智能的出现引发了动物监测与识别的巨大变革,如何应用智能技术,来开展野生动物资源的观测与评估工作成为研究重点。如今CNN作为一种学习效率极高且易于训练的深度学习模型,在动物识别中最为常用。在CNN的基础上,人们通过对卷积层、池化层、全连接层等结构的交替与优化,加强对图像的特征提取并通过调整网络层数加强学习能力,进一步训练提高识别性能。
这里博主也设计了基于深度学习的动物识别系统,下面给出了软件界面,同款的简约风,功能也可以满足图片、视频和摄像头的识别检测,希望大家可以喜欢,初始界面如下图:
检测动物时的界面截图(点击图片可放大)如下图,可识别画面中存在的多个动物,也可开启摄像头或视频检测:
详细的功能演示效果参见博主的B站视频或下一节的动图演示,觉得不错的朋友敬请点赞、关注加收藏!系统UI界面的设计工作量较大,界面美化更需仔细雕琢,大家有任何建议或意见和可在下方评论交流。
1. 效果演示
这里通过动图看一下识别动物的效果,系统主要实现的功能是对图片、视频和摄像头画面中的动物属性进行识别,识别的结果可视化显示在界面和图像中,另外提供多个动物的显示选择功能,演示效果如下。
(一)用户注册登录界面
这里设计了一个登录界面,可以注册账号和密码,然后进行登录。界面还是参考了当前流行的UI设计,左侧是一个logo,右侧输入账号、密码、验证码。
(二)选择图片识别
系统允许选择图片文件进行识别,点击图片选择按钮图标选择图片后,显示所有动物识别的结果,可通过下拉选框查看单个动物的类别。本功能的界面展示如下图所示:
(三)视频识别效果展示
很多时候我们需要识别一段视频中的动物种类,这里设计了视频选择功能。点击视频按钮可选择待检测的视频,系统会自动解析视频逐帧识别动物,并将结果记录在右下角表格中,效果如下图所示:
2. 原理与数据集
(一)源码简介
基于人工特征的野生动物识别方法主要通过人工对野生动物图像中具有辨识度的特征信息进行提取,并通过特征比对的方式就可以对野生动物所属的类别进行识别判断。本文借助YOLOv5实现,下面介绍一下YOLOv5原理。
YOLOv5的调用、训练和预测都十分方便,并且它为不同的设备需求和不同的应用场景提供了大小和参数数量不同的网络。
(1)主干部分:使用了Focus网络结构,具体操作是在一张图片中每隔一个像素拿到一个值,这个时候获得了四个独立的特征层,然后将四个独立的特征层进行堆叠,此时宽高信息就集中到了通道信息,输入通道扩充了四倍。该结构在YoloV5第5版之前有所应用,最新版本中未使用。
(2)数据增强:Mosaic数据增强、Mosaic利用了四张图片进行拼接实现数据中增强,优点是可以丰富检测物体的背景,且在BN计算的时候可以计算四张图片的数据。
(3)多正样本匹配:在之前的Yolo系列里面,在训练时每一个真实框对应一个正样本,即在训练时,每一个真实框仅由一个先验框负责预测。YoloV5中为了加快模型的训练效率,增加了正样本的数量,在训练时,每一个真实框可以由多个先验框负责预测。
(二)数据集准备
这里我们使用的动物识别数据集,是从COCO和VOC数据集中抽取的包含鸟、猫、狗、马、羊等类别的图像数据,每张图片除包括类别标签外,还有一个标注的物体边框(Bounding Box)。组成的训练数据集包含1284张图片,验证集321张图片,测试集321张图片,共计1926张图片。
python Chinese_name = {'bird': "鸟", 'cat': "猫", 'cow': "牛", 'dog': "狗子", 'horse': "马", 'sheep': "羊" }
由于原数据集采用的是xml的标注文件格式,所以我们需要将xml格式修改为YOLOv5能够使用的标注格式,可通过以下代码进行转换:
python classes = dict() num_classes = 0 parentpath = '' # "Directory path with parent dir before xml_dir or img_dir" addxmlpath = parentpath + 'PersonCar/annotations/train' # "Directory path with XML files" addimgpath = parentpath + 'PersonCar/images/train' # "Directory path with IMG files" outputpath = parentpath + 'PersonCar/labels/train' # "output folder for yolo format" classes_txt = './personcar_classes.txt' # "File containing classes" ext = '.jpg' # "Image file extension [.jpg or .png]" if os.path.isfile(classes_txt): with open(classes_txt, "r") as f: class_list = f.read().strip().split() classes = {k: v for (v, k) in enumerate(class_list)} xmlPaths = glob(addxmlpath + "/*.xml") # 保存数据集图片路径到txt imgPaths = glob(addimgpath + "/*.jpg") with open("./train.txt","w") as f: for imgPath in imgPaths: imgPath = imgPath.replace("\\", "/") f.write(imgPath+"\n") for xmlPath in xmlPaths: tVocParseReader = PascalVocReader(xmlPath) shapes = tVocParseReader.getShapes() with open(outputpath + "/" + os.path.basename(xmlPath)[:-4] + ".txt", "w") as f: for shape in shapes: class_name = shape[0] box = shape[1] # filename = os.path.splittext(xmlPath)[0] + ext filename = os.path.splitext(addimgpath + "/" + os.path.basename(xmlPath)[:-4])[0] + ext if class_name not in classes.keys(): classes[class_name] = num_classes num_classes += 1 class_idx = classes[class_name] (height, width, _) = cv2.imread(filename).shape coord_min = box[0] coord_max = box[2] xcen = float((coord_min[0] + coord_max[0])) / 2 / width ycen = float((coord_min[1] + coord_max[1])) / 2 / height w = float((coord_max[0] - coord_min[0])) / width h = float((coord_max[1] - coord_min[1])) / height f.write("%d %.06f %.06f %.06f %.06f\n" % (class_idx, xcen, ycen, w, h)) print(class_idx, xcen, ycen, w, h) with open(parentpath + "classes.txt", "w") as f: for key in classes.keys(): f.write("%s\n" % key) print(key)
打开具体的标注文件,你将会看到下面的内容,txt文件中每一行表示一个目标,以空格进行区分,分别表示目标的类别id,归一化处理之后的中心点x坐标、y坐标、目标框的w和h。
3. 基于YOLOv5的训练与识别
(一)训练过程
我们可以在终端输入如下命令进行训练,当然也可以直接点击train.py运行。
python python train.py --batch 32 --epochs 300
在深度学习中,我们通常通过损失函数下降的曲线来观察模型训练的情况。而YOLOv5训练时主要包含三个方面的损失:矩形框损失(box_loss)、置信度损失(obj_loss)和分类损失(cls_loss),在训练结束后,我们也可以在logs目录下找到生成对若干训练过程统计图。下图为博主训练动物类识别的模型训练曲线图。
一般我们会接触到两个指标,分别是召回率recall和精度precision,两个指标p和r都是简单地从一个角度来判断模型的好坏,均是介于0到1之间的数值,其中接近于1表示模型的性能越好,接近于0表示模型的性能越差,为了综合评价目标检测的性能,一般采用均值平均密度map来进一步评估模型的好坏。我们通过设定不同的置信度的阈值,可以得到在模型在不同的阈值下所计算出的p值和r值,一般情况下,p值和r值是负相关的,绘制出来可以得到如下图所示的曲线,其中曲线的面积我们称AP,目标检测模型中每种目标可计算出一个AP值,对所有的AP值求平均则可以得到模型的mAP值。
以PR-curve为例,可以看到我们的模型在验证集上的均值平均准确率为0.755。
(二)预测过程
执行predict.py得到的结果如下图所示,图中动物的种类和置信度值都标注出来了,预测速度较快。基于此模型我们可以将其设计成一个带有界面的系统,在界面上选择图片、视频或摄像头然后调用模型进行检测。
博主整个系统进行了详细测试,最终开发出一版流畅得到清新界面,就是博文演示部分的展示,完整的UI界面、测试图片视频、代码文件,以及Python离线依赖包(方便安装运行,也可自行配置环境),均已打包上传,感兴趣的朋友可以通过下载链接获取。
下载链接
若您想获得博文中涉及的实现完整全部程序文件(包括测试图片、视频,py, UI文件等,如下图),这里已打包上传至博主的面包多平台,见可参考博客与视频,已将所有涉及的文件同时打包到里面,点击即可运行,完整文件截图如下:
在文件夹下的资源显示如下,下面的链接中也给出了Python的离线依赖包,读者可在正确安装Anaconda和Pycharm软件后,复制离线依赖包至项目目录下进行安装,离线依赖的使用详细演示也可见本人B站视频:win11从头安装软件和配置环境运行深度学习项目、Win10中使用pycharm和anaconda进行python环境配置教程。
注意:该代码采用Pycharm+Python3.8开发,经过测试能成功运行,运行界面的主程序为runMain.py和LoginUI.py,测试图片脚本可运行testPicture.py,测试视频脚本可运行testVideo.py。为确保程序顺利运行,请按照requirements.txt配置Python依赖包的版本。Python版本:3.8,请勿使用其他版本,详见requirements.txt文件;
完整资源中包含数据集及训练代码,环境配置与界面中文字、图片、logo等的修改方法请见视频,项目完整文件下载请见以下链接处给出:➷➷➷
完整代码下载:https://mbd.pub/o/bread/ZJaXk55s
参考视频演示:https://www.bilibili.com/video/BV1yT411r7kG/
离线依赖库下载:https://pan.baidu.com/s/1hW9z9ofV1FRSezTSj59JSg?pwd=oy4n (提取码:oy4n )
界面中文字、图标和背景图修改方法:
在Qt Designer中可以彻底修改界面的各个控件及设置,然后将ui文件转换为py文件即可调用和显示界面。如果只需要修改界面中的文字、图标和背景图的,可以直接在ConfigUI.config文件中修改,步骤如下:
(1)打开UI_rec/tools/ConfigUI.config文件,若乱码请选择GBK编码打开。
(2)如需修改界面文字,只要选中要改的字符替换成自己的就好。
(3)如需修改背景、图标等,只需修改图片的路径。例如,原文件中的背景图设置如下:
powershell mainWindow = :/images/icons/back-image.png
可修改为自己的名为background2.png图片(位置在UI_rec/icons/文件夹中),可将该项设置如下即可修改背景图:
powershell mainWindow = ./icons/background2.png