本文基于求解最小二乘問題的隨機(jī)Gauss-Seidel方法提出了三種新的算法.我們首先將GRGS算法的貪婪選取工作空間的策略應(yīng)用到求解嶺回歸最小二乘問題的變體RGS方法上,提出了一種新的算法并稱之為VGRGS算法.我們還考慮了含有松弛因子的VGRGS方法,理論分析和實(shí)驗(yàn)數(shù)據(jù)表明新的方法在求解嶺回歸問題所對(duì)應(yīng)的超定系統(tǒng)時(shí)比VRGS算法更加有效.此外我們還提出了兩種對(duì)REGS算法的改進(jìn),第一種是通過使用貪婪的列選擇方式以期望在每一次迭代中可以選擇出更有效的列指標(biāo)從而達(dá)到對(duì)REGS方法的加速,第二種則是將隨機(jī)選擇行和列改為僅隨機(jī)選擇矩陣的列,而以一種給定的方式去循環(huán)遍歷矩陣的行.對(duì)于這兩種修改的方案,我們?cè)诶碚撋隙冀o出了一個(gè)比REGS算法更好的收斂上界.我們的數(shù)值實(shí)驗(yàn)也表明了這兩種方法的可行性與有效性. 

【文章來源】：蘭州大學(xué)甘肅省 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：49 頁

【學(xué)位級(jí)別】：碩士

【文章目錄】：
中文摘要
Abstract
第一章 概述
    1.1 符號(hào)表及縮略詞
    1.2 問題背景及研究現(xiàn)狀
    1.3 本文的主要研究?jī)?nèi)容和組織結(jié)構(gòu)
第二章 預(yù)備知識(shí)
    2.1 GRGS算法和REGS算法
    2.2 求解嶺回歸問題的幾個(gè)隨機(jī)算法
第三章 用于求解嶺回歸問題的VGRGS算法及其含有松弛因子的情況
    3.1 VGRGS算法的提出
    3.2 含有松弛因子的VGRGS算法
第四章 兩種修改的REGS算法
    4.1 GREGS算法
    4.2 PREGS算法
第五章 數(shù)值實(shí)驗(yàn)
    5.1 VGRGS方法的數(shù)值實(shí)驗(yàn)
    5.2 兩種修改的REGS算法的數(shù)值實(shí)驗(yàn)
第六章 總結(jié)與展望
參考文獻(xiàn)
致謝



本文編號(hào)：3253253