【目标跟踪】一图看懂DeepSORT大流程

简介: 【目标跟踪】一图看懂DeepSORT大流程

简介

       多目标跟踪,在DeepSORT提出之前是SORT算法(SORT论文链接),但是它对身份变换的问题,仅仅采取框和框之间距离的匹配方式,没有考虑框内的内容,所以容易发生ID-switch,不过这个问题已经在2017年的论文中进行了解决,即我们今天要介绍的 DeepSORT

       本文前提是需要对卡尔曼滤波器比较了解,如果不了解建议跳转:

DeepSORT流程图

名词解释

       Detections:目标检测器得出的结果,有bboxs和分类、置信度。

       Tracks:在整个跟踪流程中用于流转的一个对象,有这些重要属性:

              mean:八个值的均值,这八个值是center_x,center_y,aspect_ratio,h,v_center_x,v_center_y,v_aspect_ratio,v_h

              covariance:协方差矩阵

              track_id:跟踪目标的id

              n_init:在track状态被设置为“Deleted”之前,连续错过的最大次数。

              max_age:最大寿命,一个跟踪目标出现max_age次,会被删除。

              feature:bbox中改对象的特征向量,每次update时这个list会增加一个元素。

              hits:观测更新的总次数。

              age:自第一次出现以来的总帧数。

              time_since_update:自上次测量更新以来的总帧数。

              state:1-Tentative创建的Track标为暂定 2-Confirmed已经确认过 3-Deleted

       Unmatched Detections:未匹配的Detections

       Unmatched Tracks:未匹配的Tracks

       Matched Tracks:已匹配的Tracks,匹配次数在3以下的是未确认状态-Unconfirmed,匹配超过3次变成已确认状态-Confirmed。

       Confirmed:已经确认匹配的Tracks。

       Unconfirmed:未确认匹配的的Tracks。

整体流程

步骤1-预测状态:

       上一轮迭代产生的Tracks经过卡尔曼滤波的预测,计算出本轮的mean和covariance,数据的状态(Confirmed和Unconfirmed)是不变的。路径①②

步骤2-第一次匹配:

       将步骤1中的Tracks和本轮目标检测器检测出Detections一起送入Cascade进行匹配,产生三种状态的结果Unmatched Tracks,Unmatched Detections,Matched Tracks。路径③④

步骤3-第二次匹配:

       但是步骤2的检测会有遗漏,将其与步骤1中未确定的Tracks合并,用IOU Match再匹配一遍得出比较靠谱的Unmatched Tracks,Unmatched Detections,Matched Tracks。路径⑤⑥

步骤4-处理失效对象:

       未匹配的Tracks中还没确认的(Unconfirmed)和已确认(Confirmed)但是age超过阈值的state设为Delete。路径⑦⑧⑨⑩

步骤5-输出结果并为下一轮准备数据,其中合并了下面三个来源的Tracks:

       (1)步骤3和步骤4中的已匹配的Tracks合并,进行卡尔曼滤波的update,同时age+1,输出Tracks。路径⑪⑫⑬

       (2)步骤3中的未匹配的Detections新建出Tracks。⑭

       (3)步骤4中已确认而且未超龄的Track⑮

       这三个来源的Tracks合在一起作为本轮的输出同时也是下一次迭代的输入,继续步骤1。

重点节点解释

【1】KF预测  

       1.执行KF.predict,计算mean和covariance

       2.寿命age+=1  

       3.time_since_update+=1,这个值执行KF.predict时+1,执行KF.update时设置成0

       4.上一轮迭代传过来的Confirmed和Unconfirmed状态不变,Confirmed已经确定是被跟踪对象的送入【1】去跟新的Detections去匹配,没确认的Unconfirmed送入【3】去做IOU匹配。


【2】Cascade匹配,匹配tracks和detections

       1.循环迭代max_age次,直到没有Unmatched Detections

       2.利用每个bbox的特征向量计算cos距离

       3.匈牙利算法做匹配,会得到三种结果unmatched_detections  unmatched_tracks matched_tracks


【3】IOU匹配

       IOU匹配沿用了SORT的做法,是将Cascade匹配中的判断距离的算法变成了IOU。

       在Cascade匹配后加一个IOU匹配在为了处理剩下的没有匹配的Detections和Tracks,Cascade匹配可能发生漏检,某时刻,预测的轨迹tracks还在,但是检测器没有检测到与之对应的目标。

       为什么会有detection匹配失败的情况呢?

       可能某一时刻有一个物体是新进入的镜头(比如,之前一直只有三个物体,某时刻突然镜头中出现了第四个新物体),就会发生detection匹配不到tracks的情况,因为这个物体是新来的,在这之前并没有它的轨迹用于预测;还有一种情况就是物体长时间被遮挡,导致检测到的物体没有可以与之匹配的轨迹。

       针对上述匹配失败问题,处理方法就是对匹配失败的tracks和匹配失败的detection进行IOU匹配。如果能匹配成功,则再进行更新,然后继续进行预测–观测–更新的追踪流程。


【5】KF Update

       1.执行kf.update

       2.将特征向量存入feature

       3.hits += 1

       4.time_since_update = 0

       5.if hits>3:state=Confirmed

————————————————

相关文章
|
算法
YOLOv8官方支持多目标跟踪 | ByteTrack、BoT-SORT都已加入YOLOv8官方
YOLOv8官方支持多目标跟踪 | ByteTrack、BoT-SORT都已加入YOLOv8官方
1806 0
|
机器学习/深度学习 编解码 监控
目标检测实战(六): 使用YOLOv8完成对图像的目标检测任务(从数据准备到训练测试部署的完整流程)
这篇文章详细介绍了如何使用YOLOv8进行目标检测任务,包括环境搭建、数据准备、模型训练、验证测试以及模型转换等完整流程。
20791 59
目标检测实战(六): 使用YOLOv8完成对图像的目标检测任务(从数据准备到训练测试部署的完整流程)
|
9月前
|
编解码 计算机视觉
YOLOv11改进策略【YOLO和Mamba】| 替换骨干 Mamba-YOLOv11-T !!! 最新的发文热点
YOLOv11改进策略【YOLO和Mamba】| 替换骨干 Mamba-YOLOv11-T !!! 最新的发文热点
1522 7
YOLOv11改进策略【YOLO和Mamba】| 替换骨干 Mamba-YOLOv11-T !!! 最新的发文热点
|
机器学习/深度学习 算法 自动驾驶
【计算机视觉】Deep SORT多目标跟踪算法讲解(图文解释 超详细)
【计算机视觉】Deep SORT多目标跟踪算法讲解(图文解释 超详细)
1431 0
|
人工智能 监控 算法
AI计算机视觉笔记二十 八:基于YOLOv8实例分割的DeepSORT多目标跟踪
本文介绍了YOLOv8实例分割与DeepSORT视觉跟踪算法的结合应用,通过YOLOv8进行目标检测分割,并利用DeepSORT实现特征跟踪,在复杂环境中保持目标跟踪的准确性与稳定性。该技术广泛应用于安全监控、无人驾驶等领域。文章提供了环境搭建、代码下载及测试步骤,并附有详细代码示例。
1499 1
|
机器学习/深度学习 传感器 编解码
万字长文 | 多目标跟踪最新综述(基于Transformer/图模型/检测和关联/孪生网络)(上)
随着自动驾驶技术的发展,多目标跟踪已成为计算机视觉领域研究的热点问题之一。MOT 是一项关键的视觉任务,可以解决不同的问题,例如拥挤场景中的遮挡、相似外观、小目标检测困难、ID切换等。为了应对这些挑战,研究人员尝试利用transformer的注意力机制、利用图卷积神经网络获得轨迹的相关性、不同帧中目标与siamese网络的外观相似性,还尝试了基于简单 IOU 匹配的 CNN 网络、运动预测的 LSTM。为了把这些分散的技术综合起来,作者研究了过去三年中的一百多篇论文,试图提取出近年来研究者们更加关注的解决 MOT 问题的技术。
万字长文 | 多目标跟踪最新综述(基于Transformer/图模型/检测和关联/孪生网络)(上)
|
算法 计算机视觉
【YOLOv8训练结果评估】YOLOv8如何使用训练好的模型对验证集进行评估及评估参数详解
【YOLOv8训练结果评估】YOLOv8如何使用训练好的模型对验证集进行评估及评估参数详解
|
机器学习/深度学习 编解码 算法
YOLOv8改进 | 主干网络 | 增加网络结构增强小目标检测能力【独家创新——附结构图】
YOLOv8在小目标检测上存在挑战,因卷积导致信息丢失。本文教程将原网络结构替换为更适合小目标检测的backbone,并提供结构图。通过讲解原理和手把手教学,指导如何修改代码,提供完整代码实现,适合新手实践。文章探讨了大特征图对小目标检测的重要性,如细节保留、定位精度、特征丰富度和上下文信息,并介绍了FPN等方法。YOLOv8流程包括预处理、特征提取、融合和检测。修改后的网络结构增加了上采样和concatenate步骤,以利用更大特征图检测小目标。完整代码和修改后的结构图可在文中链接获取。
|
机器学习/深度学习 算法 Go
YOLOv5网络结构解析
YOLOv5网络结构解析
|
数据库
开源数据集——行人数据
开源数据集——行人数据
4153 0
开源数据集——行人数据