3D检测无痛涨点 | 上下文感知数据增强方法上下文感知数据增强方法CA-Aug助力3D!

简介: 3D检测无痛涨点 | 上下文感知数据增强方法上下文感知数据增强方法CA-Aug助力3D!

6f11c3fab7ac30e6189639b7364ed784.png

对于3D检测,标注激光雷达点云是困难的,因此数据增强是充分利用宝贵注释数据的重要模块。作为一种广泛使用的数据增强方法,GT样本通过在训练期间将GT插入激光雷达帧中,有效地提高了检测性能。然而,这些样本通常被放置在不合理的区域,这会误导模型学习目标和背景之间的错误上下文信息。


为了解决这个问题,在本文中提出了一种上下文感知数据增强方法(CA-aug),该方法通过计算激光雷达点云的“有效空间”来确保插入目标的合理放置。CA-aug是轻量级的,与其他增强方法兼容。与GT样本和激光雷达aug(SOTA)中的类似方法相比,它为现有检测器带来了更高的精度。作者还对基于距离视图的(基于RV的)模型的增强方法进行了深入研究,并发现CA-aug可以充分利用基于RV的网络的潜力。KITTI值分割实验表明,CA-aug可以将测试模型的mAP提高8%。

1、简介

在自动驾驶系统中,3D检测是目标跟踪、路径规划等功能的基础。由于能够直接获得精确的空间几何信息,并且成本不断降低,车载激光雷达在自动驾驶的场景感知中发挥着重要作用。因此,激光雷达点云中的3D检测引起了许多研究人员的关注。近年来,得益于KITTI和Waymo等自动驾驶数据集,3D检测模型得到了快速发展。它们的准确性和可靠性不断提高。然而,与图像相比,由于点云的稀疏性和边界框的自由度更高,标注3D训练数据的成本更高,耗时更长。然而,神经网络需要大量的标注数据来确保准确的推断结果。


这个问题的一个解决方案是通过数据模拟器(如Carla和Airsim)生成更多的训练样本。为了解决模拟到真实领域的巨大差距,一些研究人员将来自真实场景的扫描数据与CAD模型相结合。例如,《Augmented lidar simulator for autonomous driving》使用专业3D扫描仪Riegl VMX-1HA构建了高分辨率静态地图,通过将CAD目标模型插入其中,可以从中获得低分辨率场景点云数据。在激光雷达smi中,作者通过多帧配准和表面重建建立了3D地图和物体模型,而不需要昂贵的激光扫描仪。


与数据模拟不同,数据增强不需要太多时间来提前生成合成训练样本。它可以被整合到训练过程中,有效避免过度拟合。与2D检测类似,基本数据增强(如全局旋转、镜像和平移)广泛用于点云。为了提高数据扩充的灵活性,一些研究人员使用optimistic策略来自动化相关的超参数。对抗性学习也可以用于在训练期间调整训练样本的难度,以提高模型的鲁棒性。在GT示例中,作者创建了一个包含所有GT信息的数据库。在训练期间,从中随机选择一些目标,并将其插入到点云场景中。由于其能够纠正正负示例之间的极端数据不平衡,并显著提高检测器的性能,GT样本被广泛用于各种模型中。之后,提出了一系列新的方法。他们中的大多数通过改变GT的表面点的分布来改进网络的泛化,这相当于扩展了GT数据库。


然而,在GT样本中,目标以其原始位置插入激光雷达框架,这意味着它们很可能出现在不合理的区域,例如墙壁或建筑物后面。它对学习有两个不利影响:

  1. 由于插入目标的姿势与当前场景无关,因此它们之间的语义信息丢失。
  2. 与车辆相比,行人和骑车人的表面点更稀疏,形状更不规则。当它们出现在不合理的区域时,网络很难将它们与噪声区分开来,这会误导神经网络学习错误信息。

近年来,基于距离视图(RV)的检测方法由于易于部署和快速推理而引起了许多研究人员的关注。然而,基于RV的模型需要维持激光雷达点云的2.5D结构。在球面投影过程中,需要丢弃遮挡点。除了上述两个缺点之外,过度遮挡会破坏插入目标的表面结构,从而在训练过程中给网络带来噪声。作者将现有的扩增策略分为三类。

  1. GT样本增强的点云直接投影到距离图像中。
  2. 移除因遮挡而丢失过多点的插入目标。
  3. 通过删除范围图像的同一像素中的背景点,尽可能多地保持对象点。

dd84a1bab39dd440c2b5a2b7a054728b.png

如图1所示,为了解决上述问题,作者提出了一种上下文感知3D数据增强CA-aug。通过将激光雷达数据分为地面点和障碍点,很容易计算出目标应该放置的“有效空间”。

请注意,这里不是第一个尝试这样做的。Lidar-aug通过构建由许多Pillar组成的“Validmap”提出了类似的想法。在训练期间,对这些Pillar进行统一采样,并在其中随机选择对象和CAD模型的位置。然而,本文作者进一步考虑了物体的不同表面点分布。实验表明,本文的方法在提高检测精度方面优于GT样本和Lidar-aug中的类似思想。还证明CA-aug可以控制目标闭塞,并显著提高基于RV的模型的性能。

总之,这项工作的主要贡献如下:

  • 提出了一种上下文感知目标增强方法,该方法解决了GT样本中插入样本的不合理放置问题,并显著提高了不同模型的准确性,尤其是对于行人和骑车人的检测。
  • 研究了几乎没有人注意到的基于RV的检测器的增强。与其他方法相比,CA-aug可以充分利用基于RV的模型的潜力,并在KITTI值集中检测中度目标方面实现8%的mAP改进。
  • 本文的算法是轻量级的,与现有的增强方法兼容。

2、方法

2.1、Overview

在场景点云中找到目标的合理位置是非常重要的,因为检测数据集中的背景点没有标记。然而,可以将这个问题简化为将目标放置在扫描线可以到达的位置。在WYSWYG中,作者使用三维体素化可见性图来记录激光束通过的区域,但这需要大量的计算和存储成本。

1e09034bb3dd6571759019dd63ba2554.png

如图2(a)所示,提出了一种简单的方法。假设原始点云由地面点和障碍点组成,并将它们投影到距离图像中。对于每列,从底部到最近障碍点的部分是允许出现目标点的位置。所有部分构成“有效空间”,可以用矢量简单表示。如图3(b)所示,它还可以覆盖两行扫描线之间的无意义区域。

65dd60d4d452c585382c3e956f36d347.png

如果从“有效空间”中随机选择每个插入目标的位置,则表面点的密度和到激光雷达的距离之间的关系将被打破。因此,像Real3D Aug一样,保持原始范围,并围绕垂直z轴将目标旋转到正确位置。任务是确定每个目标的旋转角度。作者还将目标点投影到距离图像,并使用矢量“Rangebin”来描述其点模式,当围绕z轴旋转时,该模式不会改变。训练前可以计算“Validspace”和“Rangebin”。如图2(c)所示,可以从中获得每个目标的位置。对于基于RV的模型,在放置目标后应用“消隐”。

2.2、验证空间和范围的计算

受pointpillar的启发,将输入点云划分为不同的pillar。和障碍pillar,所以可以得到以下策略:

eb1173e72f31f55f7cab707a05e27df2.png

其中1675320391377.png是p的z坐标,1675320410505.png是第一根pillar。1675320428593.png中的所有点都被视为障碍点。

机械激光雷达具有固定的水平和垂直角度分辨率,因此点云可以通过以下公式投影到大小为W×H的范围图像中:

448e803a03ca6e2f8ef94bc6f6750b4e.png

2.3、目标放置

在获得“验证空间”和“测距箱”时,可以通过向量运算快速找到合理的位置。

假设插入的目标的起始列在范围图像中为。可以估计“验证空间”中的点率:

ea687778020d0dc41c4971f754dc2bd8.png

其中,1675320444204.png的长度,为目标点数,1675320463038.png为3D框的长度和距离。向量1675320489780.png由0和1组成,它表示目标点的一个列是否在“验证空间”中。当1675320475708.png时,认为第列对应的角度是可行的。

2245316f70c2f21708a9a580288dfdff.png

位置检查的详细算法见算法1。请注意,简单地将具有可行角度的增强目标添加到背景中就会导致碰撞问题,这意味着样本的三维边界框可能会相交。因此,需要引入避碰算法。假设场景中还有k个框1675320511694.png,当添加下一个框时1675320528119.png,根据它的4个角是否在k个框内来检查碰撞。它比计算所有box中的IoU要快。

3、实验

114907e2f94b4512912e6f0b8a74f1e3.pngb045109145f02e5c854d4b85eadc806f.pngc3ac4f07cf3e7cae30a0313f1745a8d0.png

4、参考

[1].CONTEXT-AWARE DATA AUGMENTATION FOR LIDAR 3D OBJECT DETECTION.

5、推荐阅读

YOLOv6精度提升的又一根稻草,感知量化的重参再设计,QARep值得内卷

3D检测经典 | 第一个Anchor-Free、第一个NMS-Free 3D目标检测算法!!!

Efficient-HRNet | EfficientNet思想+HRNet技术会不会更强更快呢?

相关文章
|
26天前
|
机器学习/深度学习 搜索推荐 物联网
微软开源创新LoRA组合方法,增强文生图复杂细节控制
微软研究团队推出Multi-LoRA Composition技术,改善文本到图像模型的细节控制。利用低秩适应(LoRA)提升图像生成精度,通过LORA SWITCH和LORA COMPOSITE解决组合复杂图像的挑战。新方法在ComposLoRA平台上测试,性能优于基线,为图像生成和个性化内容创作开辟新途径。尽管有学习曲线和定制需求优化的问题,但该研究仍为领域带来显著进步。
233 3
微软开源创新LoRA组合方法,增强文生图复杂细节控制
|
1月前
|
机器学习/深度学习 算法 计算机视觉
视觉智能平台常见问题之量具检测训练好了调用模型如何解决
视觉智能平台是利用机器学习和图像处理技术,提供图像识别、视频分析等智能视觉服务的平台;本合集针对该平台在使用中遇到的常见问题进行了收集和解答,以帮助开发者和企业用户在整合和部署视觉智能解决方案时,能够更快地定位问题并找到有效的解决策略。
17 0
|
1月前
|
机器学习/深度学习 数据采集 运维
高效处理异常值的算法:One-class SVM模型的自动化方案
高效处理异常值的算法:One-class SVM模型的自动化方案
28 1
|
5月前
|
机器学习/深度学习 算法框架/工具 Python
pyton数据增强
pyton数据增强
32 0
|
5月前
|
机器学习/深度学习 自然语言处理 算法
【网安AIGC专题10.25】论文7:Chatgpt/CodeX引入会话式 APR 范例+利用验证反馈+LLM 长期上下文窗口:更智能的反馈机制、更有效的信息合并策略、更复杂的模型结构、鼓励生成多样性
【网安AIGC专题10.25】论文7:Chatgpt/CodeX引入会话式 APR 范例+利用验证反馈+LLM 长期上下文窗口:更智能的反馈机制、更有效的信息合并策略、更复杂的模型结构、鼓励生成多样性
75 0
|
5月前
|
自然语言处理 测试技术 Python
通过Chain Prompts方式将LLM的能力引入测试平台:正交实验测试用例生成
通过Chain Prompts方式将LLM的能力引入测试平台:正交实验测试用例生成
144 0
|
10月前
|
人工智能 自然语言处理 数据可视化
多模态可控图片生成统一模型来了,模型参数、推理代码全部开源
多模态可控图片生成统一模型来了,模型参数、推理代码全部开源
370 0
|
10月前
|
机器学习/深度学习 人工智能 算法
数据增强方法汇总
数据增强方法汇总
158 0
|
11月前
|
机器学习/深度学习 存储 编解码
3D检测无痛涨点 | 上下文感知数据增强方法上下文感知数据增强方法CA-Aug助力3D!
3D检测无痛涨点 | 上下文感知数据增强方法上下文感知数据增强方法CA-Aug助力3D!
114 0
模型评估过程中,主要的验证方法与优缺点。
模型评估过程中,主要的验证方法与优缺点。