【目标跟踪】一图看懂DeepSORT大流程

简介: 【目标跟踪】一图看懂DeepSORT大流程

简介

       多目标跟踪,在DeepSORT提出之前是SORT算法(SORT论文链接),但是它对身份变换的问题,仅仅采取框和框之间距离的匹配方式,没有考虑框内的内容,所以容易发生ID-switch,不过这个问题已经在2017年的论文中进行了解决,即我们今天要介绍的 DeepSORT

       本文前提是需要对卡尔曼滤波器比较了解,如果不了解建议跳转:

DeepSORT流程图

名词解释

       Detections:目标检测器得出的结果,有bboxs和分类、置信度。

       Tracks:在整个跟踪流程中用于流转的一个对象,有这些重要属性:

              mean:八个值的均值,这八个值是center_x,center_y,aspect_ratio,h,v_center_x,v_center_y,v_aspect_ratio,v_h

              covariance:协方差矩阵

              track_id:跟踪目标的id

              n_init:在track状态被设置为“Deleted”之前,连续错过的最大次数。

              max_age:最大寿命,一个跟踪目标出现max_age次,会被删除。

              feature:bbox中改对象的特征向量,每次update时这个list会增加一个元素。

              hits:观测更新的总次数。

              age:自第一次出现以来的总帧数。

              time_since_update:自上次测量更新以来的总帧数。

              state:1-Tentative创建的Track标为暂定 2-Confirmed已经确认过 3-Deleted

       Unmatched Detections:未匹配的Detections

       Unmatched Tracks:未匹配的Tracks

       Matched Tracks:已匹配的Tracks,匹配次数在3以下的是未确认状态-Unconfirmed,匹配超过3次变成已确认状态-Confirmed。

       Confirmed:已经确认匹配的Tracks。

       Unconfirmed:未确认匹配的的Tracks。

整体流程

步骤1-预测状态:

       上一轮迭代产生的Tracks经过卡尔曼滤波的预测,计算出本轮的mean和covariance,数据的状态(Confirmed和Unconfirmed)是不变的。路径①②

步骤2-第一次匹配:

       将步骤1中的Tracks和本轮目标检测器检测出Detections一起送入Cascade进行匹配,产生三种状态的结果Unmatched Tracks,Unmatched Detections,Matched Tracks。路径③④

步骤3-第二次匹配:

       但是步骤2的检测会有遗漏,将其与步骤1中未确定的Tracks合并,用IOU Match再匹配一遍得出比较靠谱的Unmatched Tracks,Unmatched Detections,Matched Tracks。路径⑤⑥

步骤4-处理失效对象:

       未匹配的Tracks中还没确认的(Unconfirmed)和已确认(Confirmed)但是age超过阈值的state设为Delete。路径⑦⑧⑨⑩

步骤5-输出结果并为下一轮准备数据,其中合并了下面三个来源的Tracks:

       (1)步骤3和步骤4中的已匹配的Tracks合并,进行卡尔曼滤波的update,同时age+1,输出Tracks。路径⑪⑫⑬

       (2)步骤3中的未匹配的Detections新建出Tracks。⑭

       (3)步骤4中已确认而且未超龄的Track⑮

       这三个来源的Tracks合在一起作为本轮的输出同时也是下一次迭代的输入,继续步骤1。

重点节点解释

【1】KF预测  

       1.执行KF.predict,计算mean和covariance

       2.寿命age+=1  

       3.time_since_update+=1,这个值执行KF.predict时+1,执行KF.update时设置成0

       4.上一轮迭代传过来的Confirmed和Unconfirmed状态不变,Confirmed已经确定是被跟踪对象的送入【1】去跟新的Detections去匹配,没确认的Unconfirmed送入【3】去做IOU匹配。


【2】Cascade匹配,匹配tracks和detections

       1.循环迭代max_age次,直到没有Unmatched Detections

       2.利用每个bbox的特征向量计算cos距离

       3.匈牙利算法做匹配,会得到三种结果unmatched_detections  unmatched_tracks matched_tracks


【3】IOU匹配

       IOU匹配沿用了SORT的做法,是将Cascade匹配中的判断距离的算法变成了IOU。

       在Cascade匹配后加一个IOU匹配在为了处理剩下的没有匹配的Detections和Tracks,Cascade匹配可能发生漏检,某时刻,预测的轨迹tracks还在,但是检测器没有检测到与之对应的目标。

       为什么会有detection匹配失败的情况呢?

       可能某一时刻有一个物体是新进入的镜头(比如,之前一直只有三个物体,某时刻突然镜头中出现了第四个新物体),就会发生detection匹配不到tracks的情况,因为这个物体是新来的,在这之前并没有它的轨迹用于预测;还有一种情况就是物体长时间被遮挡,导致检测到的物体没有可以与之匹配的轨迹。

       针对上述匹配失败问题,处理方法就是对匹配失败的tracks和匹配失败的detection进行IOU匹配。如果能匹配成功,则再进行更新,然后继续进行预测–观测–更新的追踪流程。


【5】KF Update

       1.执行kf.update

       2.将特征向量存入feature

       3.hits += 1

       4.time_since_update = 0

       5.if hits>3:state=Confirmed

————————————————

相关文章
|
5月前
|
数据采集 算法 安全
CVPR 2024:给NeRF开透视眼!稀疏视角下用X光进行三维重建,9类算法工具包全开源
【6月更文挑战第28天】CVPR 2024亮点:SAX-NeRF框架开源!融合X光与NeRF,提升3D重建效果。X3D数据集验证,Lineformer+MLG策略揭示物体内部结构,增强几何理解。虽有计算成本及泛化挑战,但为计算机视觉和医学影像开辟新路径。[论文链接](https://arxiv.org/abs/2311.10959)**
168 5
|
5月前
|
机器学习/深度学习 存储 算法
基于YOLOv8与ByteTrack的车辆行人多目标检测与追踪系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标追踪、运动物体追踪
基于YOLOv8与ByteTrack的车辆行人多目标检测与追踪系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标追踪、运动物体追踪
|
5月前
|
算法 计算机视觉
第八章 目标跟踪
第八章 目标跟踪
|
机器学习/深度学习 传感器 算法
垂直腔表面发射激光器极化噪声的建模与分析论文复现
垂直腔表面发射激光器极化噪声的建模与分析论文复现
|
算法 数据挖掘
高分SCI必备-全方位无死角展示降维数据的三维立体图
高分SCI必备-全方位无死角展示降维数据的三维立体图
116 0
|
机器学习/深度学习
神经网络核心原理关键点纪要
神经网络核心原理关键点纪要
80 0
|
机器学习/深度学习 人工智能 算法
基于深度学习的农作物叶片病害检测系统(UI界面+YOLOv5+训练数据集)
基于深度学习的农作物叶片病害检测系统(UI界面+YOLOv5+训练数据集)
755 1
|
机器学习/深度学习 自然语言处理 算法
m基于CNN卷积网络和GEI步态能量图的步态识别算法MATLAB仿真,测试样本采用现实拍摄的场景进行测试,带GUI界面
m基于CNN卷积网络和GEI步态能量图的步态识别算法MATLAB仿真,测试样本采用现实拍摄的场景进行测试,带GUI界面
150 0
m基于CNN卷积网络和GEI步态能量图的步态识别算法MATLAB仿真,测试样本采用现实拍摄的场景进行测试,带GUI界面
|
机器学习/深度学习 传感器 编解码
CenterFormer | CenterNet思想究竟有多少花样?看CenterFormer在3D检测全新SOTA
CenterFormer | CenterNet思想究竟有多少花样?看CenterFormer在3D检测全新SOTA
146 0
|
计算机视觉
UniMatch项目原作解读:统一光流、立体匹配和深度估计三个任务
UniMatch项目原作解读:统一光流、立体匹配和深度估计三个任务
166 0