帶有懲罰項的似然方法是超高維變量選擇的基礎(chǔ).在過去的20年里,變量選擇的正則化方法已經(jīng)得到了很好的發(fā)展,但是目前對于具有U統(tǒng)計量結(jié)構(gòu)的成對偽似然函數(shù)的正則化的研究卻很少.在本篇論文中,我們首先介紹了核是無界的U統(tǒng)計量的Hoe?ding不等式.其次,當樣本量和參數(shù)維度趨于無窮時,我們證明了半?yún)?shù)廣義線性模型下回歸系數(shù)的正則化估計不僅有稀疏性,還具有相合性和漸近正態(tài)性.最后,通過綜合的模擬研究以及真實數(shù)據(jù)分析,我們驗證了半?yún)?shù)廣義線性模型下正則化估計的實用性.我們的結(jié)論不僅適用于LASSO,也適用于非凹懲罰項,比如SCAD和MCP. 

【文章來源】：吉林大學吉林省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：67 頁

【學位級別】：碩士

【部分圖文】：

在所有方法中,L2損失,L1損失,#S,FN以及FP的箱線圖,其中x軸代表不同的方法,參數(shù)維度p=25表4.1在所有方法中,L2損失,L1損失,#S,FN以及FP的中位數(shù)(標準差),參數(shù)維度p=25

第四章實驗模擬差.中位數(shù)是用來評價估計的優(yōu)劣,從表4.1中可以看出SCAD和MCP相比于LASSO的估計效果更好,LASSO選擇了更復雜的模型.標準差是用來評價估計的波動情況,對于L2損失和L1損失,從表4.1中可以看出LASSO相比于其他方法得到的估計更加穩(wěn)定一些.圖4.2在所有方法中,L2損失,L1損失,#S,FN以及FP的箱線圖,其中x軸代表不同的方法,參數(shù)維度p=100表4.2在所有方法中,L2損失,L1損失,#S,FN以及FP的中位數(shù)(標準差),參數(shù)維度p=100LASSOSCADMCPOracleL2loss4.402(0.355)1.348(0.994)1.234(0.986)0.856(0.771)L1loss10.127(0.633)2.913(2.575)2.541(2.462)1.608(1.679)#S9.000(4.123)6.000(1.365)5.000(1.065)5.000(0.000)FN0.000(0.778)0.000(0.181)0.000(0.109)0.000(0.000)FP5.000(3.596)1.000(1.382)0.000(1.075)0.000(0.000)14


本文編號：3584770