2. 农业农村部南京机械化研究所, 江苏 南京 210049
2. Nanjing Institute of Agricultural Mechanization, Ministry of Agriculture and Rural Affairs, Nanjing 210049, China
油菜Brassica napus L.角果是决定油菜产量的关键因子[1-2]。在检测油菜角果表型参数时,利用三维重建技术构建精确的三维形态模型,对于作物植株特征的获取具有重要的意义[3-4]。马保建等[5]提出了基于骨架点的重建枣树枝干算法,该算法缩短了枣树重建时间且降低了配准误差,但该算法适用于骨架明朗的中大型点云。Xu等[6]提出一种结合RANSAC[7]、ISS (Intrinsic shape signature)[8]和3DSC (3D shape context)[9]的ICP[10]改进算法,在保持较高配准精度的同时,具有较快的配准速度,但是该算法也存在提取特征点不足等问题。徐胜勇等[11]通过对ICP算法过程中近邻搜索参数的改进,对已知大概旋转角度的2个视角下的点云进行2次匹配,并采用KD-tree[12]加速,配准误差控制在0.48 mm,配准时间均小于147 s,为后续对油菜点云配准的改进奠定了基础。本文以成熟期油菜角果分枝为研究对象,提出一种基于ISS-LCG组合特征点的油菜分枝点云配准方法,以期实现不同视角下油菜分枝点云的快速精确配准。
1 材料与方法使用双目深度传感立体相机ZED系列采集油菜分枝的原始点云,对油菜点云进行数据处理,处理流程如图1所示。首先进行预处理,去除背景噪声及冗余信息;然后构建ISS-LCG组合特征点,使用三维形状上下文特征(3D shape context,3DSC)对组合特征点进行特征描述;在确定最佳点云配准视角后,使用RANSAC+ICP两步点云配准法对不同角度下的油菜分枝点云进行粗配准和精配准。
|
图 1 点云处理流程图 Fig. 1 Flow chart of the processing of the point cloud |
2021年5月13日至5月17日于江苏省泰州市油菜试验田采集成熟期油菜植株,品种为‘扬油6号’,图像采集地点为南京农业大学人工智能学院视觉实验室。油菜点云采集方法与步骤(图2):在自然光线下,将油菜分枝插入花盆中央,花盆中心点与转盘中心重合;将双目深度传感立体相机放置在高度为22.7 cm的相机架上,相机架的中心点距离转盘圆心143.6 cm。拍摄方法:从6个视角(0°、30°、60°、90°、180°、270°)分别拍摄油菜分枝的点云图像(图3),以PCD格式保存,每个油菜分枝存储6幅图像,共40个油菜分枝,合计240幅图像。
|
图 2 使用ZED相机采集的油菜分枝点云 Fig. 2 Point cloud of rape branch collected using ZED camera |
|
图 3 3号油菜分枝不同角度彩色图 Fig. 3 Color view of rape branch No. 3 at different angles |
硬件平台:戴尔计算机(i5-10210U 主频1.6 G HZ 2.11 G HZ处理器、8 GB内存、NVIDIA GeForce MX230 471.41显卡)。操作系统为Windows 10,软件平台:Visual Studio 2019集成开发环境和点云库(Point cloud library, PCL)11.0。
1.2 油菜分枝点云预处理ZED相机获取的油菜分枝点云包含大量背景噪声,需进行预处理。下面以3号油菜分枝0°点云为例,介绍预处理流程(图4)。直通滤波[13-14]:根据油菜的三维点云坐标信息,设置空间x、y方向阈值范围分别为(−0.05 m,0.26 m)、(−0.15 m,0.50 m),大于阈值的视为无用点去除,可很好地去除附近杂物的噪声信息[15],结果如图4b所示。为去除黑色幕布点云,使用HSV阈值分割方法[16]滤除阈值区间在[240,18,4] ~[255,45,4]的黑色点云,分割结果如图4c所示,油菜点云信息保留完整。因光照等外界因素或相机测量误差等原因,会出现小区域噪点[17]。使用StatisticalOutlierRemoval滤波器[18]剔除油菜点云的离群点,设置K近邻搜索点个数为15,标准差倍数为1,统计滤波前后效果差异(图4d)。为了加速点云数据处理速度,需降低点云密度[19-20]。利用体素滤波器[21]对油菜点云进行下采样,将栅格尺寸设置为0.002f,能够最大程度地保留油菜点云的几何结构信息,下采样结果如图4e所示。
|
图 4 3号油菜分枝0°点云预处理流程 Fig. 4 Pretreatment process of 0° point cloud for rape branch No.3 |
在点云配准过程中,通过特征提取算法提取点云特征点,基于特征点进行配准,能显著减少点云配准时间,但如果提取特征点不足,也会大大增加配准误差;如果随机选取部分油菜点云作为关键点代替原始点云配准,存在关键点可能过于集中于某处,导致代表性不足、点云配准效果随机性较大的问题。本文尝试将上述2种方法相结合,用后者选取的部分油菜点云作为关键点,扩充前者提取的特征点,构建组合特征点进行特征描述,可以提高配准精度,降低配准失败的可能性。
1.3.1 ISS提取油菜点云特征点首先利用内部形状描述子ISS提取点云特征点,该算法的基本步骤如下:
对点云P中每个点
| $ \begin{array}{c}{w}_{ij}=\dfrac{1}{\left|\left|{{p}}_{i}-{{p}}_{j}\right|\right|}\text{,}\left|{{p}}_{i}-{{p}}_{j}\right| < r\text{,}\end{array} $ | (1) |
| $ \begin{array}{c}{\rm{cov}}\left({{p}}_{i}\right)=\dfrac{\displaystyle\sum _{\left|{p}_{i}-{p}_{j}\right| < r}{w}_{ij}({p}_{i}-{p}_{j}){\left({p}_{i}-{p}_{j}\right)}^{{\rm{T}}}}{\displaystyle\sum _{\left|{p}_{i}-{p}_{j}\right| < r}{w}_{ij}}\text{,}\end{array} $ | (2) |
式中,
以4号油菜分枝为例,油菜点云通过ISS方法提取出的特征点如图5a所示。
|
图 5 4号油菜分枝组合特征点提取 Fig. 5 Extraction of combined feature points from No. 4 rape branch |
LCG[22]是目前应用广泛的伪随机数生成算法,其基本思想是通过对前一个数进行线性运算并取模从而得到下一个数,具体见公式(3):
| $ {x}_{n+1}=\left(a{x}_{n}+c\right){\rm{mod}}\left(m\right)\text{,} $ | (3) |
式中,a为乘数,c为增量,mod为取余,m为模数。为保证生成的随机数有较好的均匀性,令m=
虽然LCG常用来生成随机数,但因为生成的随机数基本符合均匀分布,且出现随机点集中于某一区域的概率可以忽略不计,因此生成的数又被称为“伪随机数”,选取数字的方式又被称为“伪随机选取”。以4号油菜分枝为例,通过LCG伪随机选取的点的分布情况如图5b所示,因其同样具有很强的特征代表性,因此将其命名为“关键点”。
当选取的关键点占整个点云的比例较大时,配准精度变高,但配准时间变长;反之,配准精度降低但配准时间缩短。因此,需要确定选取关键点数的最佳比例,以平衡配准精度和配准时间。
1.4 ISS-LCG组合特征点描述在确定组合特征点后,采用3DSC算法对其进行特征描述。3DSC是一种从2DSC扩展而来的算法,基本思想为计算2个点集中每个点的上下文信息,比较其相似性,得到一个最近似的排列,并在2个点云中找到对应点。本文综合油菜点云中点与点之间的最小距离,经多次试验后确认在设置3DSC球面最小半径为0.025 m、邻域点半径搜索为0.030 m时,试验效果最好。
1.5 点云配准视角选取因不同视角下油菜点云含有的信息不同,所以选取不同视角的油菜点云进行配准时得到的效果也不同。因此需要确定视角该如何选取。为了增强点云配准视角选取的科学性与说服力,本研究拍摄选取6个视角(0°、30°、60°、90°、180°、270°),具体见图6。油菜点云分别以30°、60°、90°、180°为间隔进行配准。下文将按点云视角由小到大的排列位次命名该视角下所得点云,例如60°视角下所得点云命名为 “点云3”。
|
图 6 6个视角下的3号油菜分枝点云图 Fig. 6 Point cloud images of rape branch No. 3 from six perspectives 0°:绿色;30°:红色;60°:蓝色;90°:青色;180°:黄色;270°:白色 0°: Green; 30°: Red ; 60°: Blue; 90°: Cyan; 180°: Yellow; 270°: White |
为了实现结构复杂的油菜分枝角果点云的精准配准,本文使用改进后的RANSAC方法作为粗配准方法,然后采用ICP算法进行精配准,点云两两配准流程如图7所示。
|
图 7 基于组合特征点RANSAC+ICP点云配准流程图 Fig. 7 RANSAC+ICP point cloud registration flow chart based on combined feature points |
为了给精配准提供良好的初始位置,避免配准陷入局部最优解,粗略估计源点云P到目标点云Q的变换矩阵。再通过特征描述子的最近邻匹配,找出采样点及其对应点时,可通过施加低级几何约束降低RANSAC配准过程的迭代次数。具体就是分别对P、Q点云采样点形成的虚拟多边形的边长之间的比率计算相异向量,然后与设定的阈值比较。将特征对应采样的点表示为(
| $ {{d}}_{p,i}=\left|\right|{{p}}_{i+1}{\rm{mod}}(n)-{{p}}_{i}\left|\right| ,$ | (4) |
同样的方法计算场景多边形的边长
| ${\boldsymbol{\delta}} =\left[\dfrac{{d}_{p,1}-{d}_{q,1}}{\mathrm{max}\left({d}_{p,1}-{d}_{q,1}\right)}\cdots \dfrac{{d}_{p,n}-{d}_{q,n}}{\mathrm{max}\left({d}_{p,n}-{d}_{q,n}\right)}\right]\text{,} $ | (5) |
式中,
如果2个多边形完全匹配,则
| $ {\left|\left|\mathrm{\delta }\right|\right|}_{\infty }\leqslant {{t}}_{{\rm{poly}}}\text{,} $ | (6) |
综合考虑使用的相机质量、点云质量等因素的影响,经多次试验验证,将阈值设置为0.30时,效果最佳。
1.6.2 ICP精配准算法基于2个视角相差较小的油菜点云,采取适用范围最广的ICP算法进行多次迭代的最近邻搜索,逐渐逼近最优结果。采用KD-tree 建立高维索引树形数据结构,加速2个点云的对应点匹配进程[6]。本试验中设置对应点云最大距离为0.05,最大迭代次数为350次。
2 结果与分析 2.1 点云预处理以3号油菜分枝0°点云为例,去除背景后,点云从1597771个点下降为10120个点,然后分别通过统计滤波和下采样,去除噪点及冗余信息,再次精简油菜分枝点云,减少点数约37.86%,对比原始点云减少了99.60%,这些工作为点云配准奠定了良好基础。以3号油菜分枝为例,试验证明,通过统计滤波和下采样处理后的点云配准误差为0.0715 mm,配准时间为13.873 s,与仅统计滤波和仅下采样处理的相比,点云配准效果与效率有明显提升。
2.2 不同关键点选取比例下的油菜分枝点云配准结果分析预处理后的油菜分枝,点云的点数在[1 187,9 727]内,将选取的关键点占整个点云的比例设定为m,m∈(0,1)。由于LCG存在一定的随机性,为增强试验说服力并提高试验准确度,当m确定时,对选取的分枝进行3次试验,以平均值确定最终配准误差和配准时间。
随机选取2、3、4、5、6、10、13、15、18、22号10枝油菜分枝,拟合m在(0,1)区间内以0.1为间隔、不同比例下配准误差和配准时间的变化曲线,结果发现当m∈(0.30,1)时,配准精度基本保持不变而配准时间呈指数形式增加,因此将关键点选取比例从(0,1)缩减为(0,0.30]。分别拟合m在区间(0,0.30]以0.01为间隔、不同比例下配准误差和配准时间的变化曲线(图8)。在(0,0.30]区间内,配准误差变化区间为
|
图 8 m∈(0, 0.30]时10枝油菜分枝平均配准误差和平均配准时间曲线 Fig. 8 Mean registration error and mean registration time curve of 10 rape branches at m∈(0, 0.30] |
为量化配准效果,对决定配准效果的指标配准误差(
| $ \begin{array}{c}e_{\rm{S}}=100-{10}^{5}\left(e_{\rm{m}}-e_{\rm{b}}\right)\text{,}\end{array} $ | (7) |
式中,
| $\begin{split}&\;\\ & t_{\rm{S}}=120-\dfrac{5\left(t_{\rm{m}}-t_{\rm{b}}\right)}{6},\end{split} $ | (8) |
式中,
| $ \begin{array}{c}S=e_{\rm{S}}A+t_{\rm{S}}\left(1-A\right)\text{。}\end{array} $ | (9) |
综合评分生成总评分,当选取比例为0.26时,S为最高分(93.40628),因此确定选取关键点的最优比例为0.26。
2.3 点云配准的视角选取首先以30°为间隔,分别配准点云1和2,点云2和3,点云3和4;以60°为间隔,分别配准点云1和3,点云2和4;以90°为间隔,分别配准点云1和4,点云4和5,点云5和6;以180°为间隔,分别配准点云1和5,点云4和6。以3号油菜分枝为例,配准角度分别间隔30°、60°、90°和180°时,配准误差分别为0.063、0.615、1.231和1.287 mm。配准结果表明配准点云相隔度数越大,配准精度越低,甚至出现配准错位、配准失败的情况。所以最终在以30°为间隔进行两两配准的3对点云中进行优选。配准效果见图9。
|
图 9 3号油菜分枝点云配准前(a)、后(b)效果 Fig. 9 The effects of No. 3 rape branch before (a) and after (b) point cloud registration |
为验证算法的有效性,任取20对处理后的间隔30°的油菜分枝点云进行配准试验,表1中的点云数量为20对油菜分枝点云的平均点云数量。研究对比了基于ISS特征点、LCG关键点和ISS-LCG组合特征点使用RANSAC+ICP两步配准法进行油菜点云配准的配准情况,结果如表1所示。本文提出的基于ISS-LCG组合特征点,使用RANSAC+ICP两步配准法,相较于只使用ISS特征提取算法和只使用LCG选取关键点算法,虽然配准时间因为特征点和关键点的增多而有了不同程度的延长,但是配准精度分别提升74.0%和53.5%。由此说明组合特征点,加大了对配准过程中内点选取的约束程度,更能够代表原始点云,配准精度大大提高。
|
|
表 1 点云配准算法性能测试结果 Table 1 Performance test results of point cloud registration algorithms |
荆路等[23]提出的基于尺度不变特征变换(Scale-invariant feature transform,SIFT)特征点结合采样一致性初始配准(Sample consensus initial aligment,SAC-IA)和ICP的点云配准方法,将方法应用到本文数据中,并与本文方法对比(表1)。本文算法与之相比极大地节省了配准时间,提升了配准效率,但若要应用在实时性要求高的情境下,仍存在进一步改善的空间。
3 结 论本研究采用ZED相机完成油菜分枝的多角度点云采集,并通过点云预处理、构建ISS-LCG组合特征点、组合特征点描述、确定最佳点云配准视角以及两步点云配准等步骤实现了油菜分枝多角度点云的自动配准,主要结论如下:
1)提出了基于ISS-LCG组合特征点的点云配准方法。将通过ISS特征提取方法提取的油菜分枝点云特征点和使用LCG方法伪随机选取的占比为0.26的关键点进行组合后构成油菜分支的组合特征点;使用3DSC方法对组合特征点进行特征描述后,基于RANSAC+ICP两步点云配准法进行快速配准,点云配准精度提升了50%~70%。
2)经试验验证同一个油菜分枝,间隔30°时点云的配准效果最佳,配准误差平均为0.066 mm。
| [1] |
李岚涛, 任涛, 汪善勤, 等. 基于角果期高光谱的冬油菜产量预测模型研究[J]. 农业机械学报, 2017, 48(3): 221-229. DOI:10.6041/j.issn.1000-1298.2017.03.028 ( 0) |
| [2] |
陈松林. 长江流域冬油菜适宜密植关键株型指标及参数研究[D]. 武汉: 华中农业大学, 2020.
( 0) |
| [3] |
汪文祥, 胡琼, 梅德圣, 等. 基于图像处理的油菜分枝及角果着生角度测量方法[J]. 中国油料作物学报, 2015, 37(4): 566-570. DOI:10.7505/j.issn.1007-9084.2015.04.020 ( 0) |
| [4] |
沈跃, 潘成凯, 刘慧, 等. 基于改进SIFT-ICP算法的Kinect植株点云配准方法[J]. 农业机械学报, 2017, 48(12): 183-189. DOI:10.6041/j.issn.1000-1298.2017.12.021 ( 0) |
| [5] |
马保建, 鄢金山, 王乐, 等. 基于骨架点的矮化密植枣树三维点云自动配准[J]. 农业机械学报, 2021, 52(9): 24-32. DOI:10.6041/j.issn.1000-1298.2021.09.003 ( 0) |
| [6] |
XU G, PANG Y, BAI Z, et al. A fast point clouds registration algorithm for laser scanners[J]. Applied Sciences, 2021, 11(8): 3426. DOI:10.3390/app11083426 ( 0) |
| [7] |
郑立华, 麦春艳, 廖崴, 等. 基于Kinect相机的苹果树三维点云配准[J]. 农业机械学报, 2016, 47(5): 9-14. DOI:10.6041/j.issn.1000-1298.2016.05.002 ( 0) |
| [8] |
夏坎强. 基于ISS特征点和改进描述子的点云配准算法研究[J]. 软件工程, 2022, 25(1): 1-5. ( 0) |
| [9] |
韩先锋. 三维点云去噪处理及特征描述的研究[D]. 天津: 天津大学, 2019.
( 0) |
| [10] |
麦春艳, 郑立华, 李民赞. 基于点云配准的果树快速三维重建[J]. 农业工程学报, 2015, 31(S2): 137-144. DOI:10.11975/j.issn.1002-6819.2015.z2.021 ( 0) |
| [11] |
徐胜勇, 卢昆, 潘礼礼, 等. 基于RGB-D相机的油菜分枝三维重构与角果识别定位[J]. 农业机械学报, 2019, 50(2): 21-27. DOI:10.6041/j.issn.1000-1298.2019.02.003 ( 0) |
| [12] |
刘忠建. 基于OpenCL的ICP点云并行配准算法[J]. 计算机应用与软件, 2016, 33(11): 185-187. DOI:10.3969/j.issn.1000-386x.2016.11.043 ( 0) |
| [13] |
林承达, 韩晶, 谢良毅, 等. 田间作物群体三维点云柱体空间分割方法[J]. 农业工程学报, 2021, 37(7): 175-182. DOI:10.11975/j.issn.1002-6819.2021.07.021 ( 0) |
| [14] |
付昱兴, 李承明, 朱江, 等. Alpha-shape算法构建枣树点云三维模型[J]. 农业工程学报, 2020, 36(22): 214-221. DOI:10.11975/j.issn.1002-6819.2020.22.024 ( 0) |
| [15] |
夏春华, 施滢, 尹文庆. 基于TOF深度传感的植物三维点云数据获取与去噪方法[J]. 农业工程学报, 2018, 34(6): 168-174. DOI:10.11975/j.issn.1002-6819.2018.06.021 ( 0) |
| [16] |
杨栩, 朱大明, 杨润书, 等. 匹配点云结合HSI色彩分量的无人机RGB影像信息提取方法[J]. 农业工程学报, 2021, 37(22): 295-301. DOI:10.11975/j.issn.1002-6819.2021.22.034 ( 0) |
| [17] |
孙智慧, 陆声链, 郭新宇, 等. 基于点云数据的植物叶片曲面重构方法[J]. 农业工程学报, 2012, 28(3): 184-190. DOI:10.3969/j.issn.1002-6819.2012.03.032 ( 0) |
| [18] |
RUSU R B, COUSINS S. 3D is here: Point cloud library (PCL)[C]// IEEE International Conference on Robotics & Automation. Shanghai, China: IEEE, 2011, 47(10): 1-4.
( 0) |
| [19] |
李修华, 魏鹏, 何嘉西, 等. 基于Kinect V3深度传感器的田间植株点云配准方法[J]. 农业工程学报, 2021, 37(21): 45-52. DOI:10.11975/j.issn.1002-6819.2021.21.006 ( 0) |
| [20] |
许永超, 宋建国, 李哲, 等. 基于PCL的三维断点数据聚类方法[C]//第四届油气地球物理学术年会论文集, 青岛: 中国地球物理学会油气地球物理专业委员会, 2021: 155-158.
( 0) |
| [21] |
尚业华, 张光强, 孟志军, 等. 基于欧氏聚类的三维激光点云田间障碍物检测方法[J]. 农业机械学报, 2022, 53(1): 23-32. DOI:10.6041/j.issn.1000-1298.2022.01.003 ( 0) |
| [22] |
BUCH A G, KRAFT D, KÄMÄRÄINEN J K, et al. Pose estimation using local structure-specific shape and appearance context[C]// International Conference on Robotics and Automation (ICRA). Karlsruhe, Germany: IEEE, 2013: 2080-2087.
( 0) |
| [23] |
荆路, 武斌, 方锡禄. 基于SIFT特征点结合ICP的点云配准方法[J]. 激光与红外, 2021, 51(7): 944-950. DOI:10.3969/j.issn.1001-5078.2021.07.019 ( 0) |
2023, Vol. 44


0)