隨著計(jì)算機(jī)技術(shù)的發(fā)展和普及應(yīng)用,在極大豐富信息資源的同時(shí),數(shù)據(jù)量爆炸的問(wèn)題也伴隨而來(lái)。原先的機(jī)器學(xué)習(xí)算法已不能滿足對(duì)海量數(shù)據(jù)提取信息的需求。因此在大數(shù)據(jù)的背景下,設(shè)計(jì)出可以對(duì)大量數(shù)據(jù)進(jìn)行高效運(yùn)算的新算法成為當(dāng)務(wù)之急。本文以模仿生物腦細(xì)胞工作原理的人工神經(jīng)網(wǎng)絡(luò)算法作為切入點(diǎn),并考慮樣本非對(duì)稱性的影響,針對(duì)激勵(lì)函數(shù)提出算法的改進(jìn)方案。首先在實(shí)際應(yīng)用中,一些案例正負(fù)類樣本的非對(duì)稱性問(wèn)題對(duì)算法的學(xué)習(xí)造成了極大的迷惑性。因此在建立模型前的數(shù)據(jù)預(yù)處理階段,先平衡好正負(fù)類樣本的差異,會(huì)使得后面算法表現(xiàn)更優(yōu)。本文分別研究了欠采樣(Tomek Links等)、過(guò)采樣(SMOTE等)和綜合采樣(SMOTE+ENN)方法的原理及優(yōu)缺點(diǎn),最后選擇表現(xiàn)最好的SMOTE+ENN綜合采樣法處理實(shí)證樣本。激勵(lì)函數(shù)作為算法非線性性的強(qiáng)力表達(dá),其表現(xiàn)能力的好壞直接影響到算法結(jié)果的準(zhǔn)確性。在BP算法中,激勵(lì)函數(shù)導(dǎo)數(shù)直接影響模型權(quán)重最后是否可以收斂以及收斂的速度。對(duì)比Sigmoid等激勵(lì)函數(shù),最后選擇表現(xiàn)最好的swish激勵(lì)函數(shù)并對(duì)其進(jìn)行改進(jìn)。分別對(duì)改變函數(shù)形狀的各個(gè)參數(shù)進(jìn)行分析,推導(dǎo)它們?cè)谏窠?jīng)網(wǎng)絡(luò)模型擬合中的過(guò)程,并給出改...

【文章頁(yè)數(shù)】：51 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖2-1TomekLinks算法示意圖

圖2-1TomekLinks算法示意圖圖中觀察可見(jiàn)，此算法主要剔除了在小樣本類中的大樣本類樣本，使各更加集中。在建立TomekLinks鏈接對(duì)后，對(duì)滿足配對(duì)的大樣本類贗本除，在平衡正負(fù)類數(shù)據(jù)的同時(shí)，也減少了模型的復(fù)雜性。有一種欠采樣的方法就是NearMiss算法....

圖2-2Nearmiss算法示意圖

圖2-2Nearmiss算法示意圖圖中觀察，能略微分辨出三種欠采樣方法的區(qū)別，從原理上分析，Near于其工作原理，在多數(shù)類樣本點(diǎn)選擇上，更偏向于集中在少數(shù)類附近法更具有局部性，最后樣本的分布并不是均勻的。NearMiss-3算法則離少數(shù)類近的多數(shù)類樣本，因此兩類樣本的分布....

圖2-3SMOTE及衍生算法示意圖

華中科技大學(xué)碩士學(xué)位論文P加入到新的集合中。（3）最后針對(duì)在新合成集合中的每個(gè)樣本點(diǎn)再次使用SMOTE算法生成新對(duì)于Borderline-SMOTE2[18]的思路與Borderline-SMOTE1的1、2兩步都大是在新集合中不是進(jìn)行簡(jiǎn)單....

圖2-4SMOTE+Tomek算法示意圖

圖2-4SMOTE+Tomek算法示意圖可以觀察出，首先SMOTE是通過(guò)線性插值方法提高少數(shù)類樣本過(guò)采樣補(bǔ)充的數(shù)據(jù)量大，這樣就可以一定程度上在平衡分布的問(wèn)題。而后在數(shù)據(jù)中建立TomekLinks對(duì)，尋找類別之間，將這些連接對(duì)直接剔除，而且這里由于一開始擴(kuò)充了樣本容....

本文編號(hào)：3891623