矩陣分解學(xué)習(xí)（Matrix Factorization Learning）是機(jī)器學(xué)習(xí)中應(yīng)用最廣泛的方法之一,其主要目標(biāo)是把原始的數(shù)據(jù)矩陣表示為兩個(gè)或多個(gè)低秩矩陣的乘積形式,分解之后的矩陣的秩遠(yuǎn)小于原始矩陣的秩,再應(yīng)用低秩的低維矩陣表示處理各種分類和聚類任務(wù)。矩陣分解通過將數(shù)據(jù)分解成不同的緊湊有效表示方法能高效發(fā)現(xiàn)模型隱含的潛在因子或預(yù)測(cè)矩陣中的缺失數(shù)值,近年來受到了越來越多研究人員的重視。在網(wǎng)絡(luò)科學(xué)的社區(qū)發(fā)現(xiàn)應(yīng)用中,由于所有的網(wǎng)絡(luò)結(jié)構(gòu)均可以通過關(guān)系圖來表示,而圖的主要結(jié)構(gòu)表征即為其鄰接矩陣（Adjacency Matrix）;因此應(yīng)用矩陣分解學(xué)習(xí)相關(guān)方法,能有效將整個(gè)社區(qū)網(wǎng)絡(luò)中節(jié)點(diǎn)聚合到不同社區(qū)中,可以得到很好的應(yīng)用和實(shí)驗(yàn)效果。本文將系統(tǒng)性地調(diào)研目前矩陣分解學(xué)習(xí)和網(wǎng)絡(luò)社區(qū)發(fā)現(xiàn)的主要研究方法,并針對(duì)網(wǎng)絡(luò)社區(qū)發(fā)現(xiàn)中的無監(jiān)督、重疊效應(yīng)以及網(wǎng)絡(luò)數(shù)據(jù)特性等實(shí)際問題,提出半監(jiān)督對(duì)稱非負(fù)矩陣分解和貝葉斯對(duì)稱非負(fù)矩陣分解兩種全新的矩陣分解算法,以社會(huì)網(wǎng)絡(luò)和科學(xué)網(wǎng)絡(luò)為主要研究數(shù)據(jù),進(jìn)行社區(qū)發(fā)現(xiàn)相關(guān)方法比較和具體實(shí)踐分析,獲得良好的實(shí)驗(yàn)結(jié)果和應(yīng)用效果。本論文的主要貢獻(xiàn)和創(chuàng)新點(diǎn)體現(xiàn)在以下幾個(gè)方面:1、半監(jiān)督... 

【文章來源】：上海交通大學(xué)上海市 211工程院校 985工程院校 教育部直屬院校

【文章頁數(shù)】：126 頁

【學(xué)位級(jí)別】：博士

【部分圖文】：

–1主成分分析

第二章社區(qū)發(fā)現(xiàn)與矩陣分解學(xué)習(xí)方法介紹上海交通大學(xué)博士學(xué)位論文P(X|α,μ,σ2)=∫p(X|W,μ,σ2)p(W|α)dW(2–6)其中，μ和σ2為需要估計(jì)的參數(shù)。2.2.2ICA矩陣分解獨(dú)立成分分析（ICA）[59]是一種從多維統(tǒng)計(jì)數(shù)據(jù)中尋找潛在因素或成分的方法。ICA不同于其他方法的地方在于，它尋找的是既具有統(tǒng)計(jì)獨(dú)立性又具有非高斯性的成分。在ICA中，對(duì)數(shù)據(jù)做白化預(yù)處理可以去除不同觀測(cè)信號(hào)之間的關(guān)聯(lián)性，從而簡(jiǎn)化了獨(dú)立分量后續(xù)的提取過程。相比不對(duì)數(shù)據(jù)進(jìn)行白化處，數(shù)據(jù)進(jìn)行白化處理的算法收斂性更好[60]。ICA相比于PCA，其追求的效果是不一樣的：ICA尋找的是最能使數(shù)據(jù)的相互獨(dú)立的方向，而PCA僅要求方向是不相關(guān)的（圖2–2）。我們知道，獨(dú)立可以推出不相關(guān)，反之則不然，而高斯分布的情況下獨(dú)立等價(jià)于不相關(guān)。因此ICA需要數(shù)據(jù)的高階統(tǒng)計(jì)量，PCA則只需要計(jì)算二階統(tǒng)計(jì)量。圖2–2ICA分解模型Figure2–2ICAMatrixFactorizationModel.ICA主要用于無監(jiān)督情況下源信號(hào)分離的問題：設(shè)有d個(gè)獨(dú)立的標(biāo)量信號(hào)源發(fā)出聲音，其在時(shí)刻t發(fā)出的聲音可表示為st=(s(1)t,s(2)t,...,s(d)t)∈Rd。同樣地，有d個(gè)觀測(cè)器在進(jìn)行采樣，其在時(shí)刻t記錄的信號(hào)可表示為：xt∈Rd。認(rèn)為二者滿足下式，其中矩陣A∈Rd×d被稱為混合矩陣，反映信道衰減參數(shù)：xt=Ast(2–7)—12—

上海交通大學(xué)博士學(xué)位論文第二章社區(qū)發(fā)現(xiàn)與矩陣分解學(xué)習(xí)方法介紹顯然，有多少個(gè)采樣時(shí)刻，就可以理解為有多少個(gè)樣本；而信號(hào)源的個(gè)數(shù)可以理解為特征的維數(shù)。ICA的目標(biāo)就是從x中提取出d個(gè)獨(dú)立成分，即找到非混合矩陣W：st=Wxt,W=A1(2–8)將矩陣W記為W=(w1;w2;...;wd)，也就是它的第j行是wj，那么s(j)i=wjxi。（這里的W相比于PCA推導(dǎo)中的W差一個(gè)轉(zhuǎn)置）2.2.3SVD矩陣分解在矩陣分解學(xué)習(xí)中，目標(biāo)矩陣如果是方陣（M=N），一般使用PCA的特征值分解方法來實(shí)現(xiàn)；對(duì)于不是方陣，則一般使用奇異值（SVD）分解[61]去實(shí)現(xiàn)的。因此，SVD可以看作是對(duì)非方陣做PCA處理的一種方式，通過分解出特征值，選擇特征向量中對(duì)應(yīng)有較大的特征值的部分構(gòu)成投影矩陣，然后做線性變換（將數(shù)據(jù)X投影到低維空間）。SVD矩陣分解方法在信號(hào)處理和推薦系統(tǒng)上有許多相關(guān)應(yīng)用。圖2–3SVD分解模型Figure2–3SVDMatrixFactorizationModel.這里U和V是X的左(右)奇異向量的正交矩陣，Σ是從最大值排序的奇異值的對(duì)角矩陣（σ1≥σ2≥...≥σk），這些決定了原始矩陣的等級(jí)；U、VT和Σ中的每個(gè)奇異值從左上角開始，由大到小排列，左邊部分對(duì)應(yīng)可相關(guān)的原始特征數(shù)據(jù)，用于進(jìn)行數(shù)據(jù)重構(gòu)。SVD作為一個(gè)優(yōu)化問題情況下，對(duì)應(yīng)表示如下：mincAm×dCm×kXk×nF(2–9)—13—

【參考文獻(xiàn)】：
期刊論文
[1]徽州契約文書地域信息組織與揭示的路徑探究[J]. 王昕,張潔,湯萌.  新世紀(jì)圖書館. 2018(04)
[2]基于矩陣分解學(xué)習(xí)的科學(xué)合作網(wǎng)絡(luò)社區(qū)發(fā)現(xiàn)研究[J]. 施曉華,盧宏濤.  數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn). 2017(09)
[3]基于小世界理論的無線傳感器網(wǎng)絡(luò)建模[J]. 李俊,杜萍.  科技廣場(chǎng). 2015(12)
[4]學(xué)者身份識(shí)別的機(jī)制及關(guān)鍵技術(shù)研究[J]. 常娥.  圖書館論壇. 2015(10)
[5]應(yīng)用非負(fù)矩陣分解模型的社區(qū)發(fā)現(xiàn)方法綜述[J]. 李亞芳,賈彩燕,于劍.  計(jì)算機(jī)科學(xué)與探索. 2016(01)
[6]基于文獻(xiàn)實(shí)體關(guān)系模型的高校機(jī)構(gòu)知識(shí)庫作者認(rèn)領(lǐng)模式研究[J]. 陳嘉勇,周婕,李玲,肖明.  情報(bào)理論與實(shí)踐. 2015(02)
[7]中文文獻(xiàn)題錄數(shù)據(jù)作者重名消解問題研究[J]. 朱云霞.  圖書情報(bào)工作. 2014(23)
[8]共詞網(wǎng)絡(luò)的結(jié)構(gòu)與演化:概念與理論進(jìn)展[J]. 張斌.  情報(bào)雜志. 2014(07)
[9]基于復(fù)雜網(wǎng)絡(luò)分析的軟件高危缺陷評(píng)估方法[J]. 馬皖王瑩,陳林,陳芝菲,王子元.  計(jì)算機(jī)科學(xué)與探索. 2014(08)
[10]基于語法樹的程序相似度判定方法[J]. 石野,黃龍和,車天陽,高斯,王健.  吉林大學(xué)學(xué)報(bào)(信息科學(xué)版). 2014(01)

博士論文
[1]半監(jiān)督低秩矩陣學(xué)習(xí)及其應(yīng)用[D]. 賀楊成.上海交通大學(xué) 2015
[2]復(fù)雜網(wǎng)絡(luò)社團(tuán)結(jié)構(gòu)分析方法研究[D]. 賴大榮.上海交通大學(xué) 2011



本文編號(hào)：3266280