龙空技术网

董洲洋,等.基于深度学习的GPS水准拟合方法

测绘科学 158

前言:

眼前同学们对“bp神经网络过拟合解决方法及代码”大致比较重视,你们都想要了解一些“bp神经网络过拟合解决方法及代码”的相关资讯。那么小编同时在网络上搜集了一些对于“bp神经网络过拟合解决方法及代码””的相关文章,希望小伙伴们能喜欢,咱们一起来学习一下吧!

基于深度学习的GPS水准拟合方法

董洲洋1,2,徐卫明1,庄 2,孟浩1

(1.海军大连舰艇学院军事海洋与测绘系,辽宁大连 116000

2.32023部队,辽宁大连 116000

要:针对数学拟合法在进行全球定位系统(GPS)水准拟合时,因受自身模型限制,导致GPS水准拟合精度不高的问题,本文提出了一种基于EGM2008模型和深度学习的GPS水准拟合法。首先使用深度学习中的分段线性整流函数(ReLU)作为神经元激活函数加快网络的收敛速度,然后利用自适应矩估计函数(Adam)作为优化函数加速获取最优解,并采用正则化丢弃法(Dropout)增强深度学习网络的泛化能力。通过实测数据计算表明:本文方法相比常用的多项式拟合法,丘陵地区外符合精度提高了约65%,达到1.7cm;高差变化较大的山地外符合精度提高了约90%,达到1.2cm

关键词:EGM2008模型;GPS水准拟合;“移去-恢复”法;深度学习

0 引言 利用全球定位系统(globalpositioning systemGPS)水准拟合技术能够快速获取待求点的正常高,其关键在于求解高程异常[1]。基于美国国家空间情报局(NationalGeospatial-Intelligence AgencyNGA)发布的分辨率为5′5′的高精度2008地球重力场模型(Earth gravitymodel 2008EGM 2008[2-5],利用“移去-恢复”法在重力数据缺乏地区进行水准拟合能获得精度较高的高程异常值。拟合计算过程中,常使用二次多项式法、多面函数法、移动曲面等数学模型来进行GPS水准拟合[6],拟合精度受限于不同地区所选择的拟合模型的精度。基于多层神经网络的深度学习(deep learningDL)方法,具有非线性自适应映射特点,通过调整多层神经网络中的参数和连接权值等,可以高精度地逼近任何非线性函数,从而减小模型的拟合误差[7-10]

鉴于上述分析,本文提出了一种基于EGM2008模型和深度学习的GPS水准拟合法。通过使用深度学习中的分段线性整流函数(rectifiedlinear unitsReLU)作为激活函数加快网络收敛速度;利用自适应矩估计函数(adaptivemoment estimationAdam)作为优化函数对网络权值参数进行优化,并应用正则化丢弃法(Dropout)提高网络泛化能力,解决了传统BP(back propagation)神经网络在GPS水准拟合中存在梯度消失、陷于局部最小点的问题,使得深度学习水准拟合模型可以更好地逼近GPS非线性拟合函数。在实测数据实验中,通过两组地形起伏较大的丘陵和山地地区的测量数据,对所提GPS水准拟合方法精度进行比较分析。

1“移去-恢复”法原理

根据物理大地测量学高程异常可叠加原理[11-14],任一点高程异常可表示为:

分别利用我国大陆GPS水准实测高程异常和重力数据对EGM2008模型进行外部精度进行测试,可知由EGM2008模型计算的高程异常能够表示出我国的高程异常的总体分布,[18]利用EGM2008地球重力场模型可以改善GPS水准拟合的精度。

2 深度学习的水准拟合模型

2.1 深度学习水准拟合原理

深度学习是人工智能领域中一个新的研究方向,是一种多层非线性的神经网络技术[9]。通过深度学习技术,可以解决BP神经网络在GPS水准拟合中存在的梯度消失、陷于局部最小点的问题,从而使得GPS水准拟合模型能够更好地逼近GPS非线性拟合函数,新算法的流程如图1所示。

2.2 关键技术

如图2所示,本文设计了5层神经网络的深度学习拟合构架。网络由输入层、隐藏层、输出层组成。

2.2.1 ReLU激活函数

基于多层神经网络的深度学习算法收敛速度与网络的层数、神经元的个数密切相关,为了提高GPS水准拟合网络模型的收敛速度,采用ReLU函数作为激活函数加快网络收敛。ReLU函数是一种分段线性函数[19]。当输入大于0时,直接输出该值;在输入小于等于0时,输出为0,这种特点被称为单侧抑制,从而减轻深度学习在水准拟合时的计算量,使深度学习网络具有稀疏性,缓解水准拟合时过拟合问题的发生,能更好地挖掘水准拟合时输入的样本特征,从而加快模型收敛。ReLU函数如式(3)所示,分布曲线如图3所示。

2.2.2Adam优化函数

在多层神经网络学习中,需要寻找最优参数使得损失函数取得最小值[20]Adam是一种学习率自适应的深度学习优化函数,能基于训练数据迭代地更新神经网络权重。在Adam函数中,梯度一阶矩估计加入了动量因子,对神经元偏置进行修正,实现网络模型参数空间的高效搜索,从而加速深度学习在水准拟合中的收敛速度和获取水准拟合中的全局最优解。其主要计算步骤如下。

2.2.3Dropout丢弃法

在进行水准拟合时,如果训练样本较少,有时会发生过拟合现象。Dropout法是一种针对神经网络模型的正则化方法[21],能够克服GPS水准过拟合现象。Dropout是在深度学习水准拟合训练过程中,通过随机地忽略部分神经元,如图4所示,虚圆圈表示丢弃的神经元。使隐含层的部分权重或输出随机归零,降低节点间的相互依赖性,减弱网络模型对特定神经元权重的依赖,从而提升GPS水准拟合模型的泛化能力,防止过拟合发生,使深度学习在GPS水准拟合中得到更高的精度。

3 实例分析

3.1 实验区域概况

为验证本文所提算法的拟合精度,选取高差变化较大的丘陵和山地两个典型地区的水准测量数据分别进行拟合实验和精度分析。

测区1:取辽宁某丘陵区作为测区,该测区位于38°50′N~38°58′E121°12′~121°41′E,选取其中29个三等GPS水准联测点作为实验数据,点位正常高最大值为151.860m,最小值为11.997 m,最大高差为139.863m。点位分布如图5所示。

测区2:取河南某山地复杂地区作为测区,该测区位于40°01′N~41°31′N113°55′E~115°24′E,选取其中15个三等GPS水准联测点作为实验数据,点位正常高最大值为1513.438m,最小值为615.470 m,最大高差约为897.9683 m。点位分布如图6所示。

3.2 实验方案

选取了6种实验方案,分别对丘陵和山地地区进行拟合实验。实验方案如表1所示:

对以上6种方法按式(10)进行外符合精度的评定,外符合精度反映了利用所建模型求解检核点高程异常的整体质量。

3.3 拟合试验分析

GPS水准拟合中,拟合点的选取方法一般有:任意随机挑选拟合点;挑选高差变化较大处的特征点。本文选择第种方法对拟合点进行筛选。在丘陵地区水准拟合实验中,1~20号点为拟合点,21~29号点为检验点。在山地地区水准拟合实验中,1~10号点为拟合点,11~15号点为检验点。

1)丘陵地区拟合精度分析。该区域各方案拟合精度统计如表2所示,精度空间分布如图7所示。

由表2和图7可得:方案一残差最大值为9.1cm,最小值为-4.1 cm,平均值为0.9 cm;方案二残差最大值为4.3 cm,最小值为-3.9 cm,平均值为0.3 cm;方案三残差最大值为5.0 cm,最小值为-4.6 cm,平均值为0.4 cm;方案四残差最大值为3.9 cm,最小值为-2.5 cm,平均值为0.3 cm;方案五残差最大值为3.5 cm,最小值为-3.6 cm,平均值为0.3 cm;方案六残差最大值为3.2 cm,最小值为-3.0 cm,平均值为0.3 cm。其中方案一中25号点残差值最大为9.1 cm,方案三中6号点残差最小为-4.6 cm;方案一残差平均值最大,方案六残差平均值最低;方案一、方案三、方案五结合EGM2008地球重力场模型后残差最值和平均值均有所降低,可见在丘陵地区采用基于地球重力场模型的“移去-恢复”法,其水准拟合精度更高。

在外符合精度上,方案一为5.2 cm,方案二为2.7cm,方案三为2.6 cm,方案四2.1 cm,方案五为2.5cm,方案六为1.7 cm。方案一、方案三、方案五结合EGM2008地球重力场模型后精度提高了约50%20%35%

在所有实验方案中,方案六拟合方案外符合精度最高,相比较方案二和方案四而言,精度分别提高了约35%20%。由此可得,在丘陵地区深度学习拟合法可以更加逼近GPS水准拟合非线性函数,能够提升GPS水准拟合精度。

2)山地地区拟合精度分析。该区域各方案拟合精度统计如表3所示,精度空间分布如图8所示。

由表3和图8可得:方案一残差最大值为66.0 cm,最小值为-43.6 cm,平均值为8.6 cm;方案二残差最大值为4.8cm,最小值为-6.7 cm,平均值为-0.3 cm;方案三残差最大值为43.1 cm,最小值为-60.7 cm,平均值为7.1 cm;方案四残差最大值为9.6 cm,最小值为-11.1 cm,平均值为-0.2 cm;方案五残差最大值为30.4 cm,最小值为-35.7 cm,平均值为4.3 cm;方案六残差最大值为1.8 cm,最小值为-1.6 cm,平均值为0.1 cm。方案一中13号点残差值最大为66.0 cm,方案三中2号点残差最小为-60.7 cm。方案一残差平均值最大,方案六残差平均值最低;方案一、方案三、方案五结合EGM2008地球重力场模型后在山地地区残差最值和平均值显著降低,可见在山地地区采用地球重力场的“移去-恢复”法,其水准拟合精度更高。

在外符合精度上,方案一为42.0 cm,方案二为4.3cm,方案三为30.9 cm,方案四为1.9 cm,方案五为18.8cm,方案六为1.2 cm。方案一、方案三、方案五结合EGM2008地球重力场模型后精度提高了约90%

在所有拟合方案中,方案一外符合精度最低,方案六拟合方案外符合精度最高,相比方案二和方案四外符合精度分别提高了约50%35%。由此可得,在高差变化较大的山地地区深度学习拟合法可以更加逼近GPS水准拟合非线性函数,能够提升GPS水准拟合精度。

4 结束语

基于EGM2008地球重力场模型,利用“移去-恢复”法可以快速地进行GPS水准拟合。本文针对选定的拟合数学模型的假设误差,提出了一种基于DL的拟合改进算法,为水准拟合提供了新的思路。使用深度学习对剩余高程进行拟合,通过使用深度学习中的激活函数、优化函数、正则化算法对BP神经网络的进行改进优化,解决了BP神经网络在水准拟合时存在局部极小值、收敛速度慢、过拟合的缺点,从而提高了深度学习在水准拟合中的拟合精度。相比多项式法,丘陵地区外符合精度提高了约65%,达到1.7 cm;山地地区外符合精度提高了约90%,达到1.2 cm。后续研究中将利用K-means聚类算法和地形标准差实现拟合点的最优选取,从而提高模型的适用性。

作者简介:董洲洋(1992—),男,北京人,硕士,助理工程师,主要研究方向为GNSS理论与应用。

E-mail1259475019@qq.com

基金项目:国家自然科学基金项目 61071006

通信作者:徐卫明 副教授 E-mail:yxdhcx@163.com

标签: #bp神经网络过拟合解决方法及代码