最小二乘問題精確罰的光滑牛頓-最速下降算法
發(fā)布時間:2021-10-20 18:58
約束非線性最小二乘問題在科學實驗、科學計算、預測、仿真、設計和工程技術等領域有重要應用.本文對CNLLS問題采用Coleman等人提出的精確罰方法,通過引入罰項將約束問題轉化為非光滑無約束問題.本文的主要貢獻有兩點.首先證明了 Coleman等人提出的一階穩(wěn)定點等價于非光滑優(yōu)化中的Clarke穩(wěn)定點,在此基礎上構造精確罰函數的二次連續(xù)可微的光滑函數,提出光滑牛頓-最速下降算法,將光滑化技術與具有局部超線性收斂性的牛頓法與具有全局收斂性的最速下降法結合證明了任何聚點都是無約束問題的Clarke穩(wěn)定點.在度量回歸問題、二階最小二乘問題進行的數值實驗表明精確罰函數光滑牛頓-最速下降方法能夠高效的解決約束非線性優(yōu)化問題,并且數值表現明顯優(yōu)于光滑最速下降法。
【文章來源】:北京交通大學北京市 211工程院校 教育部直屬院校
【文章頁數】:50 頁
【學位級別】:碩士
【文章目錄】:
中文摘要
ABSTRACT
第1章 緒論
1.1 引言
1.2 精確罰函數
1.3 光滑化理論
1.4 逼近l_1精確罰函數的光滑罰函數
第2章 最小二乘問題精確罰的理論分析
2.1 無約束非光滑精確罰的一階穩(wěn)定點
2.2 穩(wěn)定點之間的等價性
2.3 精確罰函數的二階連續(xù)可微光滑化
第3章 光滑牛頓-最速下降法
3.1 算法設計
3.2 全局收斂性分析
3.3 可能的改進及推廣
第4章 數值實驗
4.1 線性約束最小二乘問題
4.2 非線性約束二階最小二乘問題
第5章 結論
參考文獻
作者簡歷
學位論文數據集
本文編號:3447429
【文章來源】:北京交通大學北京市 211工程院校 教育部直屬院校
【文章頁數】:50 頁
【學位級別】:碩士
【文章目錄】:
中文摘要
ABSTRACT
第1章 緒論
1.1 引言
1.2 精確罰函數
1.3 光滑化理論
1.4 逼近l_1精確罰函數的光滑罰函數
第2章 最小二乘問題精確罰的理論分析
2.1 無約束非光滑精確罰的一階穩(wěn)定點
2.2 穩(wěn)定點之間的等價性
2.3 精確罰函數的二階連續(xù)可微光滑化
第3章 光滑牛頓-最速下降法
3.1 算法設計
3.2 全局收斂性分析
3.3 可能的改進及推廣
第4章 數值實驗
4.1 線性約束最小二乘問題
4.2 非線性約束二階最小二乘問題
第5章 結論
參考文獻
作者簡歷
學位論文數據集
本文編號:3447429
本文鏈接:http://www.sikaile.net/kejilunwen/yysx/3447429.html