本文主要研究了求解兩分塊凸優(yōu)化問題的廣義Peaceman-Rachford分裂方法和求解三分塊優(yōu)化問題的廣義交替方向乘子法.首先,由于原有的廣義Peaceman-Rachford分裂方法并未對其收斂率作出分析,本文在原有的基礎上,進一步補充了這方面的內(nèi)容,在遍歷和非遍歷情況下,建立了廣義Peaceman-Rachford分裂方法的最壞情形O（1/t）迭代復雜性.此外,通過數(shù)值實驗來深入地闡述該算法的收斂速率.其次,在求解兩分塊凸優(yōu)化問題的線性化廣義交替方向乘子法基礎上,將該算法推廣到三塊的情形.然而,對于求解三分塊的優(yōu)化問題,算法在不添加其他相關的條件下,無法保證它的收斂性.本文在目標函數(shù)的約束條件任意兩個正交且加速因子有界時,證明了該算法是收斂的.基于上述條件,在遍歷和非遍歷情況下建立了該算法的最壞情形O（1/t）收斂率.進一步地,通過舉出一個不滿足上述條件的例子使得算法發(fā)散;數(shù)值實驗表明,該算法在解一類矩陣優(yōu)化問題時是一種有效的方法. 

【文章來源】：重慶師范大學重慶市

【文章頁數(shù)】：60 頁

【學位級別】：碩士

【部分圖文】：

圖２．１?ｃｖ和ｐ在不同取值下目標函數(shù)數(shù)值的變化??從圖２．１可以看到，ａ趨近于２時的目標函數(shù)值比趨近于１時下降得塊；同時通過給罰??

?２廣義Ｐｅａｃｅｍａｎ－Ｒａｃｈｆｏｒｄ分裂法的迭代復雜性??實際上，圖２．２中畫出了罰參＃ａｃｐｕ時間之間的變化關系，其中７?ｅ?（０．１：０．９）．同時??可以看到ａ趨近１．２時比ａ趨近０．１所需迭代次數(shù)要少．??ＧＰＲＳＭ?Ｒｕｎｎｉｎｇ?Ｔｉｍｅ??２〇「????４．、、、?—ａ＝０．１??、－、?＿和－ｏｔ＝０．４??１６?＿?、＇?ａ＝０．７??１４－?、、、、?＾－０＝１．２??ｆ１２—?＼??卜－?＼、????？一？??…Ｓｓ???????????????????—??????????二二?■一?？????§．１?０２?＇?０．３?０．４?０．５?６＾?０７?０８?ａ９??Ｙ??圖２．２不同ａ取值下ＣＰＵ時間和罰參的變化關系??然而實驗中發(fā)現(xiàn)，當ａ大于１．２并逐漸趨近于２的過程中，該算法的收斂效果將變差，因??此將ａ的區(qū)間取定在（０：１．２］．與此同時，盡管與文獻［１８］類似，實驗中也考慮了罰參７在趨??近于０．９時的收斂效果會更好，但進一步地探討了加速因子＾對算法收斂速度的影響．??２．３?．２矩陣優(yōu)化問題??本節(jié)利用算法（１．２．５）來校正協(xié)方差矩陣．??首先考慮下面的矩陣優(yōu)化問題．??ｍｉｎ?｛豆１１義?一?ＣＩｌｌ＇ＩＸ?ｅ?５＾?Ｈ?辦｝，?（２．３．７）??其中??Ｓｌ＾｛Ｈ?ｅ?Ｒｎｘｎ＼ＨＪ?＝?Ｈ，Ｈｙ〇｝，??并且??Ｓｂ?＝?｛Ｈｅ?Ｒｎｘｎ＼ＨＴ?＝?Ｈ

?２廣義Ｐｅａｃｅｍａｎ－Ｒａｃｈｆｏｒｄ分裂法的迭代復雜性??實際上，圖２．２中畫出了罰參＃ａｃｐｕ時間之間的變化關系，其中７?ｅ?（０．１：０．９）．同時??可以看到ａ趨近１．２時比ａ趨近０．１所需迭代次數(shù)要少．??ＧＰＲＳＭ?Ｒｕｎｎｉｎｇ?Ｔｉｍｅ??２〇「????４．、、、?—ａ＝０．１??、－、?＿和－ｏｔ＝０．４??１６?＿?、＇?ａ＝０．７??１４－?、、、、?＾－０＝１．２??ｆ１２—?＼??卜－?＼、????？一？??…Ｓｓ???????????????????—??????????二二?■一?？????§．１?０２?＇?０．３?０．４?０．５?６＾?０７?０８?ａ９??Ｙ??圖２．２不同ａ取值下ＣＰＵ時間和罰參的變化關系??然而實驗中發(fā)現(xiàn)，當ａ大于１．２并逐漸趨近于２的過程中，該算法的收斂效果將變差，因??此將ａ的區(qū)間取定在（０：１．２］．與此同時，盡管與文獻［１８］類似，實驗中也考慮了罰參７在趨??近于０．９時的收斂效果會更好，但進一步地探討了加速因子＾對算法收斂速度的影響．??２．３?．２矩陣優(yōu)化問題??本節(jié)利用算法（１．２．５）來校正協(xié)方差矩陣．??首先考慮下面的矩陣優(yōu)化問題．??ｍｉｎ?｛豆１１義?一?ＣＩｌｌ＇ＩＸ?ｅ?５＾?Ｈ?辦｝，?（２．３．７）??其中??Ｓｌ＾｛Ｈ?ｅ?Ｒｎｘｎ＼ＨＪ?＝?Ｈ，Ｈｙ〇｝，??并且??Ｓｂ?＝?｛Ｈｅ?Ｒｎｘｎ＼ＨＴ?＝?Ｈ


本文編號：2923320