半監(jiān)督學(xué)習(xí)是同時(shí)利用標(biāo)記和未標(biāo)記數(shù)據(jù)進(jìn)行學(xué)習(xí)的一種機(jī)器學(xué)習(xí)方法,其希望挖掘未標(biāo)記樣本的信息提升學(xué)習(xí)性能。但在某些場景中,由于未標(biāo)記樣本的引入,半監(jiān)督學(xué)習(xí)的性能甚至不如相應(yīng)監(jiān)督學(xué)習(xí)的性能,因此如何安全挖掘未標(biāo)記樣本的信息,成為了一個(gè)研究熱點(diǎn)。文章在總結(jié)現(xiàn)有安全半監(jiān)督學(xué)習(xí)基礎(chǔ)上,結(jié)合正則化最小二乘算法(RLS)和拉普拉斯正則化最小二乘算法(Lap RLS),采用對(duì)偶學(xué)習(xí)機(jī)制和風(fēng)險(xiǎn)度自適應(yīng)估計(jì)策略,提出了兩種安全半監(jiān)督學(xué)習(xí)算法。文章具體研究內(nèi)容如下:(1)提出了一種基于對(duì)偶學(xué)習(xí)的安全半監(jiān)督學(xué)習(xí)算法(DALLAS)。該算法采用RLS和協(xié)同表示分類算法(CRC)分別作為原模型和對(duì)偶模型,來預(yù)測和重構(gòu)未標(biāo)記樣本,根據(jù)重構(gòu)誤差計(jì)算風(fēng)險(xiǎn)度,構(gòu)建基于風(fēng)險(xiǎn)度的安全半監(jiān)督學(xué)習(xí)算法。對(duì)于每個(gè)未標(biāo)記樣本,若重構(gòu)誤差大,則其風(fēng)險(xiǎn)度大且其預(yù)測應(yīng)該接近監(jiān)督學(xué)習(xí)預(yù)測。否則,未標(biāo)記樣本的風(fēng)險(xiǎn)度小。最后,在醫(yī)療疾病和數(shù)字識(shí)別等標(biāo)準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)表明,DALLAS能較好地降低未標(biāo)記樣本的風(fēng)險(xiǎn)程度,特別是在標(biāo)記樣本較少的情況下,從而降低了半監(jiān)督學(xué)習(xí)錯(cuò)誤分類的風(fēng)險(xiǎn),提升了算法的安全性。(2)提出了一種基于l₁

【文章頁數(shù)】：74 頁

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖2.2泛化誤差與偏差、方差的關(guān)系示意圖

杭州電子科技大學(xué)碩士學(xué)位論文22的計(jì)算或模型參數(shù)增加等代價(jià)，在此時(shí)的各種解其實(shí)大致也能符合需求，故需要施加一種約束Ω()，使得在滿足的假設(shè)空間內(nèi)找到按照約束偏好的解。按照如上描述，加入正則項(xiàng)的目標(biāo)函數(shù)形式如下：min(,())+()(2.24)(,())可以選取最小二乘形式、0/....

本文編號(hào)：3963564