地球物理反演理论-非线性反演问题pps-武汉大学课件.ppt
- 【下载声明】
1. 本站全部试题类文档,若标题没写含答案,则无答案;标题注明含答案的文档,主观题也可能无答案。请谨慎下单,一旦售出,不予退换。
2. 本站全部PPT文档均不含视频和音频,PPT中出现的音频或视频标识(或文字)仅表示流程,实际无音频或视频文件。请谨慎下单,一旦售出,不予退换。
3. 本页资料《地球物理反演理论-非线性反演问题pps-武汉大学课件.ppt》由用户(晟晟文业)主动上传,其收益全归该用户。163文库仅提供信息存储空间,仅对该用户上传内容的表现方式做保护处理,对上传内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知163文库(点击联系客服),我们立即给予删除!
4. 请根据预览情况,自愿下载本文。本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
5. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007及以上版本和PDF阅读器,压缩文件请下载最新的WinRAR软件解压。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 地球物理 反演 理论 非线性 问题 pps 武汉大学 课件
- 资源描述:
-
1、地球物理反演理论地球物理反演理论地球物理反演理论课题组地球物理反演理论课题组武汉大学武汉大学 测绘学院测绘学院1、梯度法、梯度法2、牛顿法、牛顿法3、共轭梯度法(、共轭梯度法(Conjugate Gradient Method)4、变尺度法、变尺度法5、蒙特卡洛法、蒙特卡洛法6、模拟退火法、模拟退火法7、遗传算法(、遗传算法(simulate annealing)8、人工神经网络(、人工神经网络(ANN)法)法9、多尺度反演(、多尺度反演(Multi-Scale Inversion)10、R.Parker法法非线性反演方法非线性反演方法非线性反演方法非线性反演方法 所谓非线性问题,是指观测数据
2、所谓非线性问题,是指观测数据 和模型参数和模型参数 之间不存在线性关系。这种非线性关系既可能之间不存在线性关系。这种非线性关系既可能呈显式呈显式 ,也可能呈隐式,也可能呈隐式 。本章要讲的是目。本章要讲的是目前地球物理资料反演中常用的一些非线性反演方法。它不涉及线前地球物理资料反演中常用的一些非线性反演方法。它不涉及线性化,而是直接解非线性问题,实现从数据空间到模型空间的直性化,而是直接解非线性问题,实现从数据空间到模型空间的直接映射。接映射。不管是哪一类的反演问题,归根结底,反演过程都是一个对不管是哪一类的反演问题,归根结底,反演过程都是一个对目标函数目标函数(或概率、概率密度或概率、概率密
3、度)的最优化过程,只是实现最优的途的最优化过程,只是实现最优的途径和方法不同罢了。径和方法不同罢了。Midi,2,11,2,jmjMgdm,0Fd m梯度法梯度法 梯梯度法又称最速下降法(度法又称最速下降法(the steepest descent method)、最)、最速上升法(速上升法(the steepest ascent method)或爬山法。梯度法是一种)或爬山法。梯度法是一种古老的反演方法,在地球物理的发展过程中曾起过重要的作用,古老的反演方法,在地球物理的发展过程中曾起过重要的作用,而且,直到目前仍有一些地球物理资料的反演问题仍采用梯度法而且,直到目前仍有一些地球物理资料的反
4、演问题仍采用梯度法求解。求解。梯度法梯度法 在模型参数在模型参数 和观测数据和观测数据 呈隐式的情况下,有:呈隐式的情况下,有:md,0Fd m(5.1)设:设:,xd m(5.2)令:令:12,MFFFFFd md mxd md m梯度法梯度法 如将这些非线性函数过程下式,并称之为目标函数:如将这些非线性函数过程下式,并称之为目标函数:21MiixF x(5.3)显然,显然,的零极值点,就是方程(的零极值点,就是方程(5.15.1)式的解。)式的解。当观测数据和模型参数呈显函数的情况下,在当观测数据和模型参数呈显函数的情况下,在 范数意义范数意义下,目标函数写为:下,目标函数写为:x2L 2
5、1Mriiixdd式中:式中:为观测值;为观测值;为在第为在第 r 次迭代时之理论值。次迭代时之理论值。id rid梯度法梯度法 同样,同样,的极小值所对应的模型参数的极小值所对应的模型参数 ,就应该是待求模,就应该是待求模型的解。在多维空间中,一般来说,型的解。在多维空间中,一般来说,函数是一个高次曲面。函数是一个高次曲面。以二维空间为例,此时以二维空间为例,此时 所形成的曲面与平行所形成的曲面与平行 的平的平面之切点就是它的极小值点(图面之切点就是它的极小值点(图5-15-1)。极小值点对应)。极小值点对应 ,就是观测数据就是观测数据 对应模型对应模型 之值。之值。如果用如果用 (是常数,
6、相当于一系列平行于是常数,相当于一系列平行于 的平面),与空间曲面的平面),与空间曲面 相截,可以得到一族平面相截,可以得到一族平面曲线,将它们投影到曲线,将它们投影到 平面上,如图平面上,如图5-25-2所示,称为曲面的所示,称为曲面的等高线族。由外向内,等高线族。由外向内,值不断下降,当达到极小点时,即为值不断下降,当达到极小点时,即为 函数的极值。函数的极值。12,x xdm xx x12xx1x2x ixcic12xx 12,xx x12xx图图5-1 5-1 目标函数空间曲面的示意图目标函数空间曲面的示意图图图5-2 5-2 用等高线表示的目标函数用等高线表示的目标函数梯度法梯度法
7、在任意一个初始模型在任意一个初始模型 处等高线的法向方向,就是处等高线的法向方向,就是 函函数在该点的梯度方向,即有:数在该点的梯度方向,即有:x 0 x 0110020020ppxxgxgxgxxxg xgxx梯度法梯度法 沿沿 的方向是的方向是 值上升最快的方向。因此,其反方向为:值上升最快的方向。因此,其反方向为:000 xg xgxxg(5.4)就是就是 值下降最快的方向。梯度法,就是从一个初始模型出发,值下降最快的方向。梯度法,就是从一个初始模型出发,沿负梯度方向搜索沿负梯度方向搜索 函数极小点的一种最优化方法。函数极小点的一种最优化方法。不难理解,沿目标函数不难理解,沿目标函数 的
8、负梯度方向搜索,只要步长适的负梯度方向搜索,只要步长适当,经过反复迭代,最终总可以达到目标函数的极小点。用梯度法当,经过反复迭代,最终总可以达到目标函数的极小点。用梯度法反演求取目标函数的极小点时,一要有一个初始模型,二是要沿负反演求取目标函数的极小点时,一要有一个初始模型,二是要沿负梯度方向,三是要有一个合适的步长。下面研究步长因子的求法:梯度方向,三是要有一个合适的步长。下面研究步长因子的求法:x梯度法梯度法 设第设第i i次搜索迭代时次搜索迭代时 函数的负梯度方向的单位矢量为:函数的负梯度方向的单位矢量为:x iiii g xgxPgxg xg(5.5)则模型参数的改正量则模型参数的改正
9、量 为:为:x i 1iiixxx P 式中:式中:称为搜索(或校正)步长。称为搜索(或校正)步长。将目标函数进行台劳级数展开有:将目标函数进行台劳级数展开有:11iLTiiiiiijjjxxxxxxxxg(5.6)梯度法梯度法 将(将(5.55.5)式代入()式代入(5.65.6)式,则得步长计算式:)式,则得步长计算式:第二种计算步长的方法是内插法。如对目标函数计算几个不同第二种计算步长的方法是内插法。如对目标函数计算几个不同的步长值,然后用抛物线方程对之进行拟合,抛物线之极小点就是的步长值,然后用抛物线方程对之进行拟合,抛物线之极小点就是最佳步长值。最佳步长值。第三种方法为固定步长法。即
10、在整个搜索的过程中,步长保持第三种方法为固定步长法。即在整个搜索的过程中,步长保持不变,只要每次迭代时满足不变,只要每次迭代时满足 即可接受。即可接受。(5.7)11iiiii TPjjjxxxxxPx gP 1iixx牛顿法牛顿法 设目标函数设目标函数 在在 点附近按台劳级数展开,并忽略二点附近按台劳级数展开,并忽略二次以上高阶项以后得:次以上高阶项以后得:(5.8)00201110001212NNNiijiijiijTTxxxxx x xxxxxg xxx Hx x 0 x式中:式中:000012TNxxxxxxg x(梯度向量)(梯度向量)12TNxxx x(模型参数的改正向量)(模型参
11、数的改正向量)牛顿法牛顿法 0002221112100022202122200022212NNNNNNx xx xx xx xx xx xxxxxxx xxxxxxHxxx(Hessian矩阵)矩阵)牛顿法牛顿法 对(对(5.85.8)式再求一次导数,并设:)式再求一次导数,并设:(5.9)0 xx则得:则得:10000 g xxHg xH1,2,K 写成递推公式,得:写成递推公式,得:11KKKKxxHg x牛顿法牛顿法 牛顿法的不足之处在于牛顿法的不足之处在于Hessian短阵的计算工作量很大,而且短阵的计算工作量很大,而且其逆往往会出现病态和奇异的情况。其逆往往会出现病态和奇异的情况。梯
12、度法和牛顿法利用了目标函数的梯度法和牛顿法利用了目标函数的不同性质,前者利用了目不同性质,前者利用了目标函数在初始模型处之梯度,即一阶偏导数,后者不仅利用了梯标函数在初始模型处之梯度,即一阶偏导数,后者不仅利用了梯度,而且利用了目标函数的曲率,即二阶偏导数。因此它们具有度,而且利用了目标函数的曲率,即二阶偏导数。因此它们具有不同的特性。前者在远离极小点的地方收敛较快,而后者在极小不同的特性。前者在远离极小点的地方收敛较快,而后者在极小点附近点附近收敛比梯度法要快。收敛比梯度法要快。图图5-3是牛顿法搜索目标函数极小点的示意图。是牛顿法搜索目标函数极小点的示意图。图图5-3 牛顿法搜索极小点示意
13、图牛顿法搜索极小点示意图共轭梯度法共轭梯度法 1 1、共轭向量的定义、共轭向量的定义设目标函数设目标函数 为二次函数,即:为二次函数,即:x 012TT xxgxx H x(5.10)式中式中 和和 都是都是N 维的向量,维的向量,为为N*N 阶对称、正定矩阵,阶对称、正定矩阵,为常数。定义:若存在:为常数。定义:若存在:xgH 0 x0Tij Hij0Tij H0Tji Hij,1,2,i jN(5.11)则称则称 ,相对相对 是共轭的。是共轭的。ijH共轭梯度法共轭梯度法 1 1、共轭向量的定义、共轭向量的定义与本节内容有关的共轭向量的性质及其求法:与本节内容有关的共轭向量的性质及其求法:
14、1 1)设有一组)设有一组M个个N为向量为向量 彼此相对彼此相对H共轭,即:共轭,即:0Tij Hij0Tij Hij,1,2,i jM12,M 则则 一定是线性无关的。一定是线性无关的。2 2)关于)关于H共轭的一组向量共轭的一组向量 的求法的求法设设 是一组线性无关的向量,通过线性组合,可是一组线性无关的向量,通过线性组合,可得到一组得到一组M个彼此成个彼此成H共轭的向量共轭的向量 。12,M 12,M 12,M 12,Mg gg共轭梯度法共轭梯度法 1 1、共轭向量的定义、共轭向量的定义设设 ,取,取 ,求与,求与 共轭的向量共轭的向量取取 1,2,iM2由于由于 与与 对对H共轭,故共
15、轭,故1111g1112210TTT H Hg H1ig221g2所以:所以:1121TT Hg H(5.12)共轭梯度法共轭梯度法 1 1、共轭向量的定义、共轭向量的定义故故与与 是共轭的。是共轭的。设已求出设已求出 ,它们是彼此,它们是彼此H共轭,求一个向量共轭,求一个向量 与与 都都H H共轭。即:共轭。即:11111222212111TTTT Hg Hgggg H H(5.13)12,M 1K12,K!11KKKrrrg使使 与与 成成H共轭,即有:共轭,即有:1K12,K 共轭梯度法共轭梯度法 将(将(5.135.13)式代入上式,得:)式代入上式,得:1,2,iK10iTK H(5
16、.14)1!11iTKiKKKiTii Hgg H与与 成成H共轭。若取共轭。若取 ,便得到,便得到M个彼个彼此此H共轭的向量共轭的向量 。12,K 1iTiKiTi Hg H1,2,iK将(将(5.145.14)式代入()式代入(5.135.13)式,得:)式,得:(5.15)12,M 1,2,1KM共轭梯度法共轭梯度法 2 2、共轭梯度法的原理、共轭梯度法的原理第一步,设第一步,设第二步,求第二步,求 ,其中,其中 111xxg2211g第三步,求第三步,求 ,11211TT Hg H1K1,2,1KM!11KKKrrrg1TrKrTrr Hg H按上述方法求得的向量按上述方法求得的向量
17、彼此是彼此是H的共轭向量的共轭向量12,M 共轭梯度法共轭梯度法 2 2、共轭梯度法的原理、共轭梯度法的原理第四步,沿共轭梯度方向上式目标函数的极小点。设第四步,沿共轭梯度方向上式目标函数的极小点。设1KKKKrrrrxx沿沿 方向进行第方向进行第K次搜索时,应满足:次搜索时,应满足:设目标函数设目标函数 在在 处是二次函数,即:处是二次函数,即:或或KKKrrrx(5.16)Kr1minKKKKKKKrrrrrrrxxx x 012TT xxgxx H x 0 x共轭梯度法共轭梯度法 2 2、共轭梯度法的原理、共轭梯度法的原理根据复合函数的极值理论根据复合函数的极值理论设设 ,则:,则:0T
18、TKKKKrrrKr xgxH KKrrxxxx 0Krx可得:可得:TKKrrKrTKKKrr gH(5.17)共轭梯度法共轭梯度法 2 2、共轭梯度法的原理、共轭梯度法的原理设设K=0=0,即在第一次迭代时,即在第一次迭代时,不难看出,如果目标函数是二次型,则沿共轭方向最多各进行一次不难看出,如果目标函数是二次型,则沿共轭方向最多各进行一次搜索,就可以找到目标函数的极小点的位置。若非准确的二次函数,搜索,就可以找到目标函数的极小点的位置。若非准确的二次函数,则上述搜索过程必须进行反复迭代,直到搜索到目标函数的极小点则上述搜索过程必须进行反复迭代,直到搜索到目标函数的极小点为止。在共轭梯度法
19、中,每次迭代都必须重新计算初始模型所对应为止。在共轭梯度法中,每次迭代都必须重新计算初始模型所对应 和和 ,及相应的共轭方向,因此,计算量仍然很大。,及相应的共轭方向,因此,计算量仍然很大。00100000TrrrrrTrrgxxH(5.18)gH变尺度法变尺度法 以以Huang的变尺度法为例说明变尺度法的原理和实施步骤的变尺度法为例说明变尺度法的原理和实施步骤由共轭向量由共轭向量 求与之成求与之成H共轭的方向共轭的方向 ,存在如下,存在如下通式:通式:(5.19)021,K KTKKK H g其中:其中:11TTKKKTKK g HIg(5.20)设想从设想从 点的负梯度方向左乘一个矩阵点的
20、负梯度方向左乘一个矩阵 ,就得出与,就得出与 共轭的方向共轭的方向 。能否对。能否对 建立起一个迭代关系,建立起一个迭代关系,由由 产生产生 ,使:,使:KxTKH021,K KKHKH1KH变尺度法变尺度法(5.21)02,K 1Kg111TKKK Hg能和能和 共轭。假定已知共轭。假定已知 ,求出了,求出了 ,并记,并记(5.22)此时,有了此时,有了 便可以求出便可以求出 ;同样,有了;同样,有了 也可也可以求出以求出 。于是,我们的任务就是如何选取。于是,我们的任务就是如何选取 ,使从,使从1KH1KKKHHH1KHKHKH1KHKH1KKK HHH(5.23)求出的求出的 具有上述性
21、质。具有上述性质。1KH变尺度法变尺度法 02,K 0,1,2,jK为使为使 与与 关于关于H共轭,应有:共轭,应有:所以令:所以令:1110TTTjKjKK H HHg若对若对 也有:也有:KH1K已知:已知:0TjK g0,1,2,1jK1TTTjKj HH0,1,2,jK就有:就有:10TjK H0,1,2,jKTTTjKj HH0,1,2,1jK变尺度法变尺度法 0,1,2,1jK则由则由 得出:得出:所以,将上式中的所以,将上式中的j换为换为K,则:,则:(5.24)式和()式和(5.25)式又可改写为:)式又可改写为:0,1,2,1jK1KKKHHH10TTTTTTTTjKjKjK
22、jj H H HH HH(5.24)1TTTTTTTTTKKKKKKKKK H H HH HH HH(5.25)0KjH HKKKKKH HH H变尺度法变尺度法 设目标函数为二次型,即:设目标函数为二次型,即:如以如以 左乘左乘 ,并利用:,并利用:则(则(5.24)式可改写为:)式可改写为:0,1,2,jK 0012TT xxg xxx H x 11jjjjjjjHH xxggyjjH 1jjjjjHH xxH x0KjH y0,1,2,1jK(5.26)KKKKKH yxH y(5.27)变尺度法变尺度法 如果能求出满足(如果能求出满足(5.265.26)式和()式和(5.275.27)
23、式的)式的 ,则利用(,则利用(5.235.23)式便能求出满足以上要求的式便能求出满足以上要求的 ,也就建立起了迭代关系。,也就建立起了迭代关系。由上述迭代关系可以看出,变尺度法是从尺度由上述迭代关系可以看出,变尺度法是从尺度 (可以是(可以是单位矩阵)开始,由单位矩阵)开始,由 求得求得 。求。求 时,是通过改变尺度时,是通过改变尺度 为为 而不是改变系数而不是改变系数 为为 ,使得,使得 和和 为共轭方向。然为共轭方向。然后,再改变尺度后,再改变尺度 为为 ,而不是求取系数,而不是求取系数 ,使求得的,使求得的 与与 ,成成 共轭。如此反复,直至求出共轭。如此反复,直至求出 位置。位置。
24、KH1KH0H1g110H1H01101H2H2201H1N变尺度法变尺度法 HuangHuang给出了如下关系,并令:给出了如下关系,并令:KTTKKKKK HxUH y V(5.28)式中:式中:,为两个需要加以选择的量。为两个需要加以选择的量。HuangHuang选择选择 中的中的 ,满足:满足:KUKVKUKVKH00,1,2,1TKjjKjKU y00,1,2,11TKjjKjKV y变尺度法变尺度法 下面是下面是HuangHuang提出的求取提出的求取 ,的公式,因为:的公式,因为:0TjK HKUKV0,1,2,1jKjjjHy0,1,2,jKKjK x所以:所以:0KTKjjK
25、jK yx H0,1,2,1jK0TKjKKjK y H0,1,2,1jK0,1,2,1jKKjjH H0TTTjKKjK HH y y0,1,2,1jK0TKTTKTjKKjjKKjjKKy H yHH y HH y0,1,2,1jK变尺度法变尺度法 所以只要取:所以只要取:1112KKKTKKKUxH y(5.29)参数参数 ,满足:满足:TKkU y1TKk V y2122KKKTKKKVxH y21K11K12K22K便满足便满足 和和 。将(。将(5.295.29)式代入上两式,于是五个参)式代入上两式,于是五个参数数 ,应满足两个关系式,所以独立应满足两个关系式,所以独立参数只有三
展开阅读全文