天堂国产午夜亚洲专区-少妇人妻综合久久蜜臀-国产成人户外露出视频在线-国产91传媒一区二区三区

部分可分非線性方程組與優(yōu)化問題的稀疏擬牛頓法

發(fā)布時間:2018-03-26 15:01

  本文選題:部分可分非線性方程組 切入點:部分可分最優(yōu)化問題 出處:《湖南大學》2016年博士論文


【摘要】:擬牛頓法是求解非線性方程組和最優(yōu)化問題頗受歡迎的一類算法.該類算法具有超線性收斂速度,而且,若采用適當線性搜索或信賴域技術,算法可具有全局收斂性.然而,擬牛頓法產(chǎn)生的擬牛頓矩陣往往是稠密的,因此不能直接用于求解大規(guī)模問題.來自科學計算和工程等領域的許多實際問題一般都具有一些特殊的稀疏結(jié)構(gòu).比如微分方程采用有限元法或者有限差分法離散化后得到的非線性方程組,其Jacobian矩陣具有一定的稀疏結(jié)構(gòu).很多無約束優(yōu)化問題可寫成若干個分量函數(shù)的和,其中每個分量函數(shù)只跟少數(shù)幾個變量有關.因此,根據(jù)問題的稀疏特征或者目標函數(shù)的特殊結(jié)構(gòu),設計高效的稀疏擬牛頓算法,具有重要的理論意義和實際應用價值,也是優(yōu)化界關注的一個重要課題,并取得了一系列重要成果.目前已提出了多種稀疏擬牛頓法,這些算法充分利用了問題的稀疏特征,并且保留了傳統(tǒng)擬牛頓法的超線性收斂性等重要性質(zhì).稀疏擬牛頓法已成為求解大規(guī)模非線性方程組和最優(yōu)化問題的一類重要算法.迄今為止,關于稀疏擬牛頓法的研究主要集中于對算法的局部收斂性質(zhì)的研究,對于算法的全局收斂性質(zhì)的研究工作很少.這是由于稀疏擬牛頓法產(chǎn)生的擬牛頓矩陣要保持問題的稀疏結(jié)構(gòu),使得傳統(tǒng)擬牛頓法的某些重要性質(zhì)如對稱正定性、最小變化性等發(fā)生了改變,從而大大增加了研究稀疏擬牛頓法的全局收斂性的難度.本文在對稀疏擬牛頓法的性質(zhì)進行深入分析的基礎上,采用線性搜索技術,研究求解非線性方程組和最優(yōu)化問題的一些重要的稀疏擬牛頓法的全局收斂性.我們首先研究求解大規(guī)模非線性方程組的稀疏擬牛頓法.Schubert方法是較早被提出的用于求解方程組的稀疏擬牛頓法,作為Broyden秩一修正公式的稀疏推廣,Schubert修正公式能夠精確保持方程組的Jacobian矩陣的稀疏結(jié)構(gòu).但在實際計算中,由于Schubert修正公式過于嚴格地保持矩陣的稀疏結(jié)構(gòu),數(shù)值表現(xiàn)有時不如Broyden秩一方法好.在本文中我們重點關注部分可分離的非線性方程組,借助于分塊BFGS算法的思想,我們提出兩種分塊擬牛頓算法.當非線性方程組的導數(shù)信息不可用時,我們提出一種分塊Broyden秩一算法,算法中采用分塊Broyden秩一修正.該算法無需計算導數(shù),且能夠近似保持Jacobian矩陣的稀疏結(jié)構(gòu).當非線性方程組的導數(shù)信息可通過自動微分間接計算時,我們提出一種分塊伴隨Broyden算法,算法中采用分塊伴隨Broyden修正.該修正公式也可近似保持Jacobian矩陣的稀疏結(jié)構(gòu),并保留了伴隨Broyden修正公式的線性不變性.我們采用一種無導數(shù)非單調(diào)線性搜索技術研究算法的全局收斂性,在適當條件下,建立了上述兩種稀疏擬牛頓算法的全局收斂性.我們還證明,經(jīng)過一定的迭代步后,單位步長可以取到.此時,算法在方程組解的局部還原為單位步長稀疏擬牛頓法,從而具有超線性收斂速度.我們還對算法進行數(shù)值檢驗,并將該兩種稀疏擬牛頓算法與Broyden秩一方法和伴隨Broyden方法進行了比較.結(jié)果表明,稀疏算法在迭代次數(shù),函數(shù)值計算次數(shù)和計算時間方面均有出色表現(xiàn).我們也將這兩種稀疏算法與Schubert方法進行比較,數(shù)值結(jié)果進一步驗證了這兩種稀疏擬牛頓算法的優(yōu)越性.其次,針對目標函數(shù)具有部分可分離結(jié)構(gòu)的無約束優(yōu)化問題,我們提出一種稀疏的投影分塊PSB算法.算法針對目標函數(shù)的Hessian矩陣的稀疏結(jié)構(gòu),采用分塊PSB修正.由于簡單的分塊PSB修正公式不能保正Hessian矩陣的近似矩陣的正定性,從而不能保證擬牛頓方向是目標函數(shù)的下降方向.因此我們對擬牛頓方向進行投影,提出一種投影的分塊PSB算法,該算法可以保證產(chǎn)生目標函數(shù)的一個充分下降方向.在適當條件下,我們證明了采用Armijo或者Wolfe搜索的算法用于求解一致凸函數(shù)極小化問題時具有全局收斂性和超線性收斂速度.此外我們還通過數(shù)值計算,將分塊PSB算法與已有的求解大規(guī)模最優(yōu)化問題的著名的分塊BFGS算法以及有限內(nèi)存BFGS(L-BFGS)算法在30個測試問題上進行數(shù)值比較.結(jié)果表明,本文提出的分塊PSB算法在迭代次數(shù),函數(shù)值計算次數(shù),梯度值計算次數(shù)和計算時間方面均有較好的表現(xiàn).最后,我們研究求解對稱非線性方程組的擬牛頓算法,基于自動微分技術,我們提出兩類擬牛頓算法.首先,類似于Powell對稱化技術,我們將伴隨Broyden修正公式對稱化,提出一種對稱伴隨Broyden修正.該修正公式保持了原伴隨Broyden修正公式的最小變化性質(zhì)和仿射不變性.此外,我們還提出一類新的伴隨秩二擬牛頓修正公式,該修正公式不僅具有和BFGS修正公式類似的正定性和最小變化性質(zhì),而且能夠精確保證擬牛頓矩陣與方程組的Jacobian矩陣沿擬牛頓方向一致.我們證明,在適當條件下這兩種算法均具有全局收斂性和超線性收斂速度.數(shù)值結(jié)果顯示,當用于對稱非線性方程組求解時,這兩類新算法相比于BFGS方法均具有優(yōu)勢.
[Abstract]:......
【學位授予單位】:湖南大學
【學位級別】:博士
【學位授予年份】:2016
【分類號】:O242.23

【相似文獻】

相關期刊論文 前10條

1 盧慧芳;楊月婷;;一種新的修正有限內(nèi)存擬牛頓法[J];華東師范大學學報(自然科學版);2010年01期

2 孫文瑜;擬牛頓法中的數(shù)值相關技術[J];高等學校計算數(shù)學學報;1983年04期

3 張建中;雙邊投影擬牛頓法的收斂性[J];科學通報;1988年18期

4 姜子文;;直接優(yōu)化矩陣分解因子的阻尼擬牛頓法[J];濱州師專學報;1991年04期

5 楊富貴,盛松柏;錐模型擬牛頓法[J];高等學校計算數(shù)學學報;1995年04期

6 高巖;極大值函數(shù)非光滑方程組的牛頓法和擬牛頓法[J];自然雜志;2000年01期

7 懷麗波;;利用函數(shù)值信息的修正多步擬牛頓法[J];南京大學學報數(shù)學半年刊;2007年01期

8 黃海;林穗華;;幾種修正擬牛頓法的比較[J];廣西民族師范學院學報;2011年03期

9 桂勝華;張倩;邢麗;徐玲;;弱互補函數(shù)的拉格朗日-擬牛頓法[J];上海第二工業(yè)大學學報;2005年04期

10 李亮;孫秦;;求解高維非線性優(yōu)化的并行分塊對角擬牛頓法[J];南昌航空大學學報(自然科學版);2013年01期

相關會議論文 前6條

1 時貞軍;孫國;;對角稀疏擬牛頓法及其收斂特征[A];第六屆中國青年運籌與管理學者大會論文集[C];2004年

2 王樂斌;王曉純;白玉星;高建嶺;;擬牛頓法在火災作用下結(jié)構(gòu)倒塌機構(gòu)中的應用[A];北京力學會第15屆學術年會論文摘要集[C];2009年

3 于杰;倪勤;;改進的多步擬牛頓法及其收斂性[A];中國運籌學會第十屆學術交流會論文集[C];2010年

4 樊宇璐;李世作;張志斌;;基于擬牛頓法的電力系統(tǒng)潮流計算[A];中國高等學校電力系統(tǒng)及其自動化專業(yè)第二十四屆學術年會論文集(上冊)[C];2008年

5 劉洪偉;王明潔;章祥蓀;;基于非單調(diào)線搜索非擬牛頓法的全局收斂性[A];中國運籌學會第八屆學術交流會論文集[C];2006年

6 樊宇璐;李世作;張志斌;;基于擬牛頓法的電力系統(tǒng)潮流計算[A];第二十屆電工理論學術年會論文集[C];2008年

相關博士學位論文 前3條

1 曹慧平;部分可分非線性方程組與優(yōu)化問題的稀疏擬牛頓法[D];湖南大學;2016年

2 周偉軍;擬牛頓法及其收斂性[D];湖南大學;2006年

3 程萬友;求解最優(yōu)化問題的非線性共軛梯度法和自調(diào)比擬牛頓法[D];湖南大學;2008年

相關碩士學位論文 前9條

1 陳金慧;帶函數(shù)值的多步擬牛頓法[D];南京理工大學;2009年

2 于杰;改進的多步擬牛頓法及其收斂性[D];南京航空航天大學;2012年

3 王偉;不精確擬牛頓法的收斂性[D];大連理工大學;2006年

4 金紅艷;求解大規(guī)模優(yōu)化問題的有限記憶擬牛頓法[D];湖南大學;2013年

5 馮冬冬;一類精細修正牛頓法和擬牛頓法研究[D];中南大學;2012年

6 夏丹丹;求不可約非負張量的最大特征值的擬牛頓法[D];南京航空航天大學;2012年

7 孫國;無約束優(yōu)化問題的稀疏擬牛頓法[D];曲阜師范大學;2003年

8 王娟;Hilbert空間中算子方程的不精確擬牛頓法的局部收斂性分析[D];大連理工大學;2006年

9 李寶美;多維filter與兩項迭代算法[D];南京理工大學;2013年

,

本文編號:1668352

資料下載
論文發(fā)表

本文鏈接:http://www.sikaile.net/shoufeilunwen/jckxbs/1668352.html


Copyright(c)文論論文網(wǎng)All Rights Reserved | 網(wǎng)站地圖 |

版權(quán)申明:資料由用戶2c90c***提供,本站僅收錄摘要或目錄,作者需要刪除請E-mail郵箱bigeng88@qq.com