極限學(xué)習(xí)機(jī)的隱含層參數(shù)輸入權(quán)重和偏置值都是隨機(jī)選取的,需要設(shè)置的唯一參數(shù)是隱含層節(jié)點(diǎn)的數(shù)量。通過(guò)最小二乘法求得輸出權(quán)重,避免了多次迭代和局部最小化的問(wèn)題,具有良好的泛化性能和極高的學(xué)習(xí)效率。其廣泛應(yīng)用于醫(yī)學(xué)生物、計(jì)算機(jī)視覺(jué)和圖像處理等方面。近年來(lái),對(duì)尋找最優(yōu)隱含層節(jié)點(diǎn)數(shù)和訓(xùn)練樣本在線加入模型的研究較多,本文對(duì)增量型極限學(xué)習(xí)機(jī)研究如下:無(wú)逆矩陣極限學(xué)習(xí)機(jī)通過(guò)逐步增加隱含層節(jié)點(diǎn)尋找最優(yōu)隱含層節(jié)點(diǎn)數(shù)。本文將其改進(jìn)為無(wú)逆矩陣在線序列版本,稱(chēng)為無(wú)逆矩陣在線序列極限學(xué)習(xí)機(jī)（IFOS-ELM）。該算法首先通過(guò)舒爾補(bǔ)公式尋找到最優(yōu)隱含層節(jié)點(diǎn)數(shù),然后利用Sherman-Morrison-Woodbury公式將新增樣本數(shù)據(jù)逐步添加到模型中,避免對(duì)已經(jīng)分析過(guò)的訓(xùn)練樣本的輸出權(quán)重進(jìn)行重復(fù)計(jì)算。文中相應(yīng)的給出了所提IFOS-ELM算法的詳細(xì)推導(dǎo)。本文通過(guò)不同類(lèi)型和大小數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明,所提IFOS-ELM算法非常適合在線學(xué)習(xí)場(chǎng)景,在快速學(xué)習(xí)和性能方面都有很好的表現(xiàn)。但是對(duì)于類(lèi)別不平衡數(shù)據(jù),IFOS-ELM算法存在著分類(lèi)準(zhǔn)確率差的問(wèn)題。為此,本文進(jìn)一步提出了面向類(lèi)別不平衡的增量在線序列極限學(xué)習(xí)機(jī)（IOS-E... 

【文章來(lái)源】：江南大學(xué)江蘇省 211工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：61 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第一章 緒論
    1.1 研究背景
    1.2 研究意義
    1.3 國(guó)內(nèi)外研究動(dòng)態(tài)和趨勢(shì)
    1.4 本文主要研究?jī)?nèi)容
第二章 極限學(xué)習(xí)機(jī)及相關(guān)變體
    2.1 極限學(xué)習(xí)機(jī)的基本思想
    2.2 極限學(xué)習(xí)機(jī)相關(guān)變體
        2.2.1 正則化極限學(xué)習(xí)機(jī)
        2.2.2 增量極限學(xué)習(xí)機(jī)
        2.2.3 在線序列極限學(xué)習(xí)機(jī)
        2.2.4 加權(quán)極限學(xué)習(xí)機(jī)算法
        2.2.5 EWOS-ELM算法
        2.2.6 半監(jiān)督與無(wú)監(jiān)督極限學(xué)習(xí)機(jī)
    2.3 SMOTE
    2.4 本章小結(jié)
第三章 無(wú)逆矩陣在線序列極限學(xué)習(xí)機(jī)
    3.1 引言
    3.2 相關(guān)數(shù)學(xué)公式
        3.2.1 Moore-Penrose廣義逆矩陣
        3.2.2 Sherman-Morrison-Woodbury公式
        3.2.3 舒爾補(bǔ)公式
    3.3 無(wú)逆矩陣極限學(xué)習(xí)機(jī)
    3.4 IFOS-ELM算法
        3.4.1 IFOS-ELM算法過(guò)程
        3.4.2 IFOS-ELM算法時(shí)間復(fù)雜度分析
        3.4.3 IFOS-ELM算法總結(jié)
    3.5 實(shí)驗(yàn)結(jié)果與分析
        3.5.1 實(shí)驗(yàn)環(huán)境
        3.5.2 評(píng)估指標(biāo)
        3.5.3 回歸實(shí)驗(yàn)結(jié)果
        3.5.4 分類(lèi)實(shí)驗(yàn)結(jié)果
    3.6 本章小結(jié)
第四章 面向類(lèi)別不平衡的增量在線序列極限學(xué)習(xí)機(jī)
    4.1 引言
    4.2 IOS-ELM算法
        4.2.1 IOS-ELM算法思想
        4.2.2 IOS-ELM算法推導(dǎo)
    4.3 實(shí)驗(yàn)結(jié)果與分析
        4.3.1 算法評(píng)估指標(biāo)
        4.3.2 實(shí)驗(yàn)數(shù)據(jù)及平臺(tái)
        4.3.3 二分類(lèi)實(shí)驗(yàn)結(jié)果
        4.3.4 多分類(lèi)實(shí)驗(yàn)結(jié)果
    4.4 本章小結(jié)
第五章 工作總結(jié)與展望
    5.1 工作總結(jié)
    5.2 研究工作展望
致謝
參考文獻(xiàn)
附錄 :作者在攻讀碩士學(xué)位期間發(fā)表的論文



本文編號(hào)：3267313