基于正則化秩k矩陣逼近的稀疏主成分分析
本文選題:降維 + 稀疏主成分 ; 參考:《北京航空航天大學學報》2017年06期
【摘要】:在計算稀疏主成分(PCs)時,由于同時求k個主成分的做法可以減少計算所產(chǎn)生的累積誤差,因此提出了基于正則化秩k矩陣逼近的稀疏主成分模型,并設計了求解該模型的塊坐標下降法(BCD-s PCA-r SVD)。該算法的主要思想是先把變量按坐標分成2k個塊,當固定其他2k-1個坐標塊的變量時,求解關于單個坐標塊的子問題并給出子問題的顯式解,循環(huán)地求解這些子問題直至滿足終止條件。該算法每次迭代的計算復雜度關于樣本個數(shù)與變量維數(shù)都是線性的,并且證明了它是收斂的。該算法不僅易于實現(xiàn),數(shù)值仿真結果表明,該算法應用到真實數(shù)據(jù)與合成數(shù)據(jù)上都是可行且有效的。它不僅使累積誤差降低,而且具有較低的計算復雜度,因而可以有效地求解大規(guī)模稀疏主成分分析問題。
[Abstract]:In the calculation of sparse principal component (PCS), a sparse principal component model based on regularized rank k matrix approximation is proposed because the cumulative error can be reduced by finding k principal components at the same time. The block coordinate descent method is designed to solve the model. The main idea of the algorithm is to divide the variables into 2k blocks according to the coordinates. When the variables of other 2k-1 coordinate blocks are fixed, the subproblems of the single coordinate blocks are solved and the explicit solutions of the sub-problems are given. These subproblems are solved circularly until the termination conditions are satisfied. The computational complexity of the algorithm for each iteration is linear with respect to the number of samples and the dimension of variables, and it is proved that the algorithm is convergent. The numerical simulation results show that the algorithm is feasible and effective when applied to both real and composite data. It not only reduces the cumulative error, but also has low computational complexity, so it can effectively solve the large scale sparse principal component analysis problem.
【作者單位】: 北京航空航天大學數(shù)學與系統(tǒng)科學學院;
【基金】:國家自然科學基金(61172060,61403011)~~
【分類號】:TP301.6
【相似文獻】
相關期刊論文 前10條
1 尹學松;胡恩良;;半監(jiān)督正則化學習[J];小型微型計算機系統(tǒng);2010年12期
2 相文楠;趙建立;;判別正則化譜回歸[J];聊城大學學報(自然科學版);2011年04期
3 李勇周;羅大庸;劉少強;;基于正則化最小二乘的局部判別投影的人臉識別[J];模式識別與人工智能;2008年05期
4 莊福振;羅平;何清;史忠植;;基于混合正則化的無標簽領域的歸納遷移學習[J];科學通報;2009年11期
5 朱林立;戴國洪;高煒;;正則化框架下半監(jiān)督本體算法[J];微電子學與計算機;2014年03期
6 劉小蘭;郝志峰;楊曉偉;馬獻恒;;基于最小熵正則化的半監(jiān)督分類[J];華南理工大學學報(自然科學版);2010年01期
7 關海鷗;衣淑娟;焦峰;許少華;左豫虎;金寶石;;農(nóng)作物缺素癥狀診斷的正則化模糊神經(jīng)網(wǎng)絡模型[J];農(nóng)業(yè)機械學報;2012年05期
8 劉敏;陳恩慶;楊守義;;正則化粒子濾波在水下目標跟蹤中的應用[J];電視技術;2012年09期
9 尚曉清;楊琳;趙志龍;;基于非凸正則化項的合成孔徑雷達圖像分割新算法[J];光子學報;2012年09期
10 劉建偉;黎海恩;劉媛;付捷;羅雄麟;;迭代再權共軛梯度q范數(shù)正則化線性最小二乘 支持向量機分類算法[J];控制理論與應用;2014年03期
相關會議論文 前5條
1 毛玉明;郭杏林;呂洪彬;;動載荷反演問題的正則化求解[A];第18屆全國結構工程學術會議論文集第Ⅰ冊[C];2009年
2 王彥飛;;地球物理數(shù)值反演問題的最優(yōu)化和正則化理論與方法[A];中國地球物理學會第二十七屆年會論文集[C];2011年
3 廖熠;趙榮椿;;從明暗恢復形狀方法綜述[A];中國體視學學會圖像分析專業(yè)、中國體視學學會仿真與虛擬現(xiàn)實專業(yè)、中國航空學會信號與信息處理專業(yè)第一屆聯(lián)合學術會議論文集[C];2000年
4 張瀚銘;閆鑌;李磊;;一種基于TV正則化的有限角度CT圖像重建算法[A];全國射線數(shù)字成像與CT新技術研討會論文集[C];2012年
5 熊春陽;黃建永;方競;;高性能牽引力顯微鏡方法及其在細胞力學研究中的應用[A];中國生物醫(yī)學工程學會成立30周年紀念大會暨2010中國生物醫(yī)學工程學會學術大會報告論文[C];2010年
相關博士學位論文 前3條
1 牛善洲;基于變分正則化的低劑量CT成像方法研究[D];南方醫(yī)科大學;2015年
2 王梅;正則化路徑上的支持向量機模型組合[D];天津大學;2013年
3 劉小蘭;基于圖和熵正則化的半監(jiān)督分類算法[D];華南理工大學;2011年
相關碩士學位論文 前10條
1 黃樹東;協(xié)同聚類及集成的關鍵技術研究[D];西南交通大學;2015年
2 白閃閃;基于L0正則化局部字典學習的視頻追蹤[D];大連理工大學;2015年
3 王凱;求解斯托克斯流動問題的正則化源點法[D];太原理工大學;2016年
4 郗仙田;正交正則化核典型相關分析的研究[D];東北電力大學;2016年
5 張振月;基于范數(shù)正則化回歸的人臉識別[D];山東大學;2016年
6 王吉興;拉普拉斯圖正則化的字典學習圖像去噪算法研究[D];五邑大學;2016年
7 袁瑛;基于正則化的多核學習方法及應用[D];華南理工大學;2016年
8 董學輝;邏輯回歸算法及其GPU并行實現(xiàn)研究[D];哈爾濱工業(yè)大學;2016年
9 朱園園;基于Log-det正則化的半徑—間隔學習方法及其應用[D];哈爾濱工業(yè)大學;2016年
10 張嬙;正則化自表示方法在蛋白質(zhì)-ATP結合位點預測中的應用[D];東北師范大學;2016年
,本文編號:1886020
本文鏈接:http://www.sikaile.net/kejilunwen/ruanjiangongchenglunwen/1886020.html