恶劣天气下汽车激光雷达(LIDAR)点云的数据增强

您所在的位置:网站首页 气象雷达回波图实时 恶劣天气下汽车激光雷达(LIDAR)点云的数据增强

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强

#恶劣天气下汽车激光雷达(LIDAR)点云的数据增强| 来源: 网络整理| 查看: 265

以往利用激光雷达(光检测与距离修正, LIDAR)进行数据增强的工作多考虑良好天气条件下的点云,与之相反,本文使用的是受喷淋水影响的点云。喷淋水可能是幻影制动的原因,了解如何处理由它引起的额外检测是发展ADAS(高级驾驶辅助系统)/AV(自动驾驶汽车)功能的重要一步。如果不考虑真正的固体可能与由喷淋水引起的检测存在于同一区域的情况,就不能安全地消除喷淋水引起的额外检测。由于收集真实的例子是非常困难的,因此建议使用合成数据。在喷洒区域增加了一个额外的物体,使这个障碍物引起的检测与相同位置的真实物体在强度、回波数和遮挡方面的特征相匹配。从而虚拟重建了真实场景。然后,由障碍物产生的检测被用来增强真实数据,在增加了遮挡效果后,获得所需训练数据的良好近似值。这些数据被用来训练一个达到平均F-Score分数为92的分类器。根据合成物体的大小、位置、反射、持续时间等特征,详细分析了分类器的性能。拟议方法可以很容易地扩展到不同种类的障碍物和分类器类型。

1 简介

新一代ADAS和AV功能要求高度可靠性,因此需要不同传感器的组合。在这些传感器中,雷达、摄像头、超声波和GPS(全球定位系统)是最常见的。近期,激光雷达(LIDAR )传感器也被采用,主要是由于其高分辨率、能在低光照条件下工作以及进行直接距离测量。然而,通过使用红外光获得的高分辨率是以在存在污垢, 雨、雾,雪,废气和喷淋水使用红外光获得的高分辨率是以降低性能为代价的。除了视线范围,这些现象还会导致额外的检测,从而产生负面的影响,如幻影制动。过滤掉这些额外检测的机制很难实现,因为存在风险有可能删除由真实物体引起的检测。

在此背景下,本文着重讨论如何正确地对受喷淋水影响的点云中的固体物体进行分类。喷淋水尤其成问题,因为它产生的点云具有高度类似于固体的特征。图1显示了一个真实的例子,在这个例子中,喷雾云产生的检测结果的形状接近于。需要用真阳性来训练一个分类器,以消除这种假阳性。

这对应于实际固体物体与喷雾同时存在的情况,例如,由物体从车辆上掉下来引起的。由于图1所示的喷雾量通常是在高速下产生的,即使是在试验场收集这类数据也是非常危险的。即使投入大量的汽车收集数据,获得的例子数量也可能太少,不够用于训练。

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强-汽车开发者社区

图 1. 一个序列鸟瞰图,其中由于喷淋水而产生了一个幽灵物体。在开始时创建的一个错误的物体假设(虚线)在后续帧中没有被摒除;结果,生成了一个额外的物体(实线)。传感器的视野为浅灰色部分。

技术现状

关于数据增强,目前已有多种方法,从真实训练集的转换,到真实数据和合成数据的组合,再到纯合成数据以及领域适应技术。在中, 为了提高网络的训练效果,此前标记的物体的点云通过在不同位置的连接被添加到训练数据中。添加的物体之间可能的冲突将被自动删除。为了同时训练“增强器”,使用了对抗性策略,“增强器”是一种专门用于创建增强数据的神经网络,会导致分类器性能下降。当同时训练分类器和增强器时,分类器学习与增强器可能造成的修改无关的特征。由于可用于增强的操作范围很广,提出了一种搜索方法,以找到最优增强策略,可以将其理解为具有各自参数的一系列增强操作。 

真实扫描被用于背景设定,对应于街道中没有移动的人或物体的部分。然后,根据从贴有标签的真实数据集中提取的概率,合成可移动物体和行人的数量、位置和姿势。然后用一个传感器模型来生成最终的点云。这样就可以生成大量的带注释的三维数据用于训练。在这种情况下,在真实点云中的车辆顶部添加一个合成物体。这个合成物体的建模是为了攻击基于点云的分类算法,降低其准确性,从而识别可能的漏洞。

我们的方法其独特之处在于使用了受喷淋水影响的真实点云。这些数据的收集和使用设置在第2节中解释。生成合成物体的ROI(感兴趣区域)是基于先前关于喷淋水的空间分布和可以采取的保护乘客的措施。

由于合成物体需要与放置在ROI中的真实物体的特征相匹配,因此必须对喷雾本身进行模拟。如同以前的工作一样,对场景进行渲染。在本例中,基于物理的渲染被用来模拟LIDAR传感器,其材料属性基于真实反射值。喷淋水和降雨是使用粒子系统来模拟的,它产生的探测结果的空间分布与真实喷雾造成的探测结果相似。渲染之后,由障碍物引起的检测被提取出来并连接到真实的点云中。最后,再加入遮挡和噪声的效果。

利用获得的点云,可以训练一个两层的前馈神经网络。结果将在第3节中展示。训练该分类器是为了识别由添加的障碍物引起的检测。该方法使用三维点云的鸟瞰图,其中检测结果被分配到二维直方图中的bin。然后将生成的直方图与物体进行卷积,这类物体应具有与需要提取的特征相对应的维度和方向。使用具有固定直方图尺寸的鸟瞰图和简单的分类网络可以维持所需的时间预算。区别于对整个场景的二元分类, 基于检测的分类,其优点是可以根据提取的障碍物的尺寸、位置、旋转和/或反射以及自我车辆的特征(例如其离地间隙),来决定是否启动任何安全机制。其结果将在第4节讨论。

2 试验情况2.1 感兴趣区域

根据我们在高速公路上的测量,并考虑到喷雾是由一辆领先的车辆(LV)产生的,通常可以看到喷雾检测的区域大约相当于自我车辆两侧6米范围,以及车辆前方至多20米内。这些测量是在平均自我速度为89公里/小时的情况下进行的。在这种情况下,如果喷雾云中有固体物体,就不可能及时修正车辆的轨迹。紧急刹车也不能让车辆在撞上可能物体之前停下来,而且这相当危险。不过,也有可以采取的修正措施。预紧式安全带的执行器可在100毫秒至300毫秒内快速启动。也有关于座椅旋转的数值研究,其中在200毫秒内旋转达90°被认为在保护乘客方面是最有可能的和最有用的。此外,还可以轻踩刹车。以200毫秒作为执行器的平均执行耗时,再加上300毫秒用于物体的检测和分类,总共需要500毫秒。根据我们前面提到的喷雾测量的平均速度,对应需要于12.36米的距离。此外,考虑到弯曲的道路以及坠落物体从相邻车道移动到自我车道的可能性,我们使用了一个锥形的ROI。这个角度是基于欧洲道路的车辆出口角的数值,它相当于道路边缘线和车辆直线轨迹之间的夹角。我们选择了一个30°的角度,这应该涵盖了欧洲高速公路上的大部分左转弯路和右转弯路。最终的ROI如图2所示。在测量过程中,自我车辆占据了第二或第三条车道,而LV则占据了第一或第二条车道。由于这个原因,右边可能是道路边界或另一条车道。这使得分类更具挑战性,如附录A的图A1所示。

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强-汽车开发者社区

图2. 感兴趣区域 该大小是基于激光雷达通常探测到喷雾的区域和使用的喷雾速度。在12.4米之前,即使探测到一个固体物体,也不会发生任何有意义的动作。角度30°是基于欧洲道路的曲线半径。“x”标记了添加的合成物体的中心。

2.2 测量

在图3所示的位置上的汽车激光雷达传感器被用来收集数据。测量是在高速公路上进行的,测量时间见表1。测量期间都是雨天。也标出了附近的气象站报告的测量期间的降雨量。

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强-汽车开发者社区

图 3. LIDAR传感器在自我车辆中的放置

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强-汽车开发者社区

总共收集了13.162帧。在每次测量中,都有一个产生喷雾的领先车辆(LV),位于自我车辆左侧的车道上。使用传感器的内部跟踪器对领先车的位置进行跟踪,并在图A3中生成报告。自我车辆速度为(89±4)公里/小时。

2.3 试验模拟

图4展示了所使用的模拟设置。这个设置是基于中引入的模型。最初的模拟设置是基于以下假设:

• 无法实时模拟真正的水滴以及作用在它们身上的确切力量。然而,这些水滴引起的检测数量通常非常少,因为需要高浓度的水滴才能引起足够强的反射,从而引起检测。因此,更有效的方法是使用粒子来直接模拟检测,而不是一滴水。

• Blender用来计算粒子轨迹的解算器在所需的参数范围内是稳定的。

• 激光雷达传感器本身可以模拟的方式,就像通过调整材料着色器内部的计算来渲染相机图像一样。从默认的强度倍增的计算变为射线距离增加的计算。一个颜色通道保持不变;因此,每个相机像素都包含有关光线从光源行进的距离及其相应强度的信息。光源被放置在摄像机旁边,摄像机和光源都是根据传感器的分辨率和视场来设置的。

• 如果对材料使用物理数值,如图4的虚线区域内所示,则计算出的每个像素的强度应该与使用真实传感器获得的强度成正比。

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强-汽车开发者社区

图 4. 模拟设置. 对象索引(OI)是一个参数,渲染器用其为物体创建一个单独的掩码,以增加构图效果,并使之有可能识别哪个物体引起哪些检测。注意与图2的对应关系。ROI用红色标记。紫色的区域对应的是一个均匀分布的受限粒子的体积,以模拟由雨引起的检测。每个物体的材料的折射率(IOR)和吸收率显示在虚线区域。

在所需参数范围内,通过比较Blender生成的粒子轨迹与四阶Runge-Kutta求解器生成的粒子轨迹,这些假设得到了验证。此外,使用Pearson相关系数计算了真实和模拟点云的空间分布的相关性,得到的数值从0.5到0.74。使用英特尔酷睿i7-8850H处理器,每帧的渲染时间从40毫秒(每帧每轮8个粒子)到260毫秒(每帧每轮50个粒子)不等。

在这个体系中,摄像头是根据传感器的分辨率来配置的,但不是一对一的关系,而是使用三对一的关系。额外的像素被用来模拟多个回波:来自同一方向的二次和三次反射。此外,紫色区域内的限制粒子是这个模拟中特有的。为了使模拟中的回波值与现实中的回波值相吻合,需要进行这些检测。表2中列出了所使用的自由和限制粒子的数量。

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强-汽车开发者社区

我们放置了一个盒子作为障碍物。任何其他障碍物的形状都可用作障碍物,但为了简化对其形状的描述,我们决定使用一个盒子。

模拟中LV的位置被设置为对应帧的真实位置。这意味着每个真实帧都有一个等效的合成帧。模拟中的自由粒子的数量是基于现实中由喷雾引起的检测数量。这些粒子是从车轮上发射出来的,它们的大小和作用在它们身上的力(即风力在x和y上的分量)是根据物理值和实际测量中喷雾的空间分布而校准的。在这个特定的模拟中,风在y方向的影响,原来是用两个力来模拟的,现在减少到只有一个力,而且这个力的值有所增加,会引导喷雾朝向ROI。

在图4中,被限制的粒子均匀地分布在紫色区域上,但是这些随机发射,其寿命为一帧。这产生的探测分布与使用同一传感器在真实降雨测量中观测到的分布相似。

为了校准光源的强度,我们比较了真实回波脉宽和合成回波脉宽(EPW,与反射强度成正比)值的累积直方图。这是在向模拟中放置盒子之前进行的。在模拟中,灯的强度被调整,以产生与测量中光源相似的强度范围。

光源的校准完成后,盒子被添加到模拟中。盒子中心的位置均匀地分布在整个ROI上。经过验证,盒子和领先车辆之间没有碰撞。随后处理的是与其他车辆或实际数据中道路边界产生的点云可能发生的碰撞。从20厘米到2米的均匀分布中取样盒子的宽度、长度和高度。盒子的z轴被调整为其高度的一半,以确保它保持在街道表面。旋转角度均匀分布在 0° 和 90° 之间,反射率也是如此,从 0 到 1均匀分布。它的持续时间,相当于它保持在同一位置的帧数,在1、2和3之间变化。每个持续时间的例子数量相等。图5显示了在保持LV位置不变的情况下,通过累积多帧产生的盒子得到的结果。图中盒子的透明度与它们的反射值成正比。

恶劣天气下汽车激光雷达(LIDAR)点云的数据增强-汽车开发者社区

图 5. 生成的合成障碍物在多帧中累积的示例。红线和虚线标记为ROI。盒子的透明度与它的反射值成正比。标有 "LV "的蓝色方框对应于领先车辆的位置,盒子与它的碰撞被自动删除。

图6呈现了渲染后得到的结果。图的左边使用不同颜色来表示基于其EPW的检测,右边使用不同的颜色来识别相应的回波数。图中显示了三个不同的帧。在图6a,b中,未添加盒子。可以与图7a,b进行直接比较,它对应于真实的等效(LV的位置相同)。可以注意到,回波值和EPW 的分布有相似之处(在训练分类器之前,将合成对象引起的检测的 EPW 值的直方图调整为类似于通过 LV 后部的真实反射获得的直方图 (见图4)。这样做是为了避免分类器对这种差异产生偏差。直方图也被修整为有相同的最大值。)靠近传感器的区域(



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3