集成學習能顯著提高分類的精度因而一直是機器學習領域的研究熱點。傳統(tǒng)的集成學習算法未能考慮基分類器的局部有效性,沒有考慮到大數(shù)據(jù)集的復雜性,對參與集成的分類器未能進行評估選擇,結構不夠靈活,導致面對大數(shù)據(jù)集時的分類準確度不高并且效率低下,因此如選擇性集成和動態(tài)多分類器整合技術等更有效的集成學習算法被提出。本文主要針對動態(tài)多分類器整合技術,研究了兩種動態(tài)集成算法:一種重點針對分類器的構建方法,在不同子集訓練生成基分類器,用決策樹的方式進行整合的集成學習算法;另一種是一個動態(tài)融合方法——基于相關度分析的動態(tài)集成算法。本文的主要研究內容分兩部分:在第一部分,我們基于梯度優(yōu)化的思想,提出一種決策樹結構的集成學習系統(tǒng)。采用一種動態(tài)集成技術是將整個數(shù)據(jù)集分成若干個子集,在每個子集上訓練基分類器,測試時,根據(jù)不同被測樣本所屬子集的不同動態(tài)地選擇部分而非全部的基分類器進行集成或動態(tài)調整基分類器的權重,從而提高分類準確度。有很多劃分子集的方法被用于動態(tài)集成。本文提出的集成算法使用分類器分類類別為下層分類器劃分出更小的子集,利用這些更小的子集訓練樣本構建具有更好局部分類精度的基分類器,并將多個基分類器組成決...

【文章頁數(shù)】：61 頁

【學位級別】：碩士

【文章目錄】：
摘要
abstract
第一章 緒論
    1.1 課題的研究背景和意義
    1.2 國內外研究現(xiàn)狀
    1.3 本文主要研究內容
    1.4 論文結構安排
第二章 集成學習算法概述
    2.1 集成學習的相關概念
    2.2 集成學習算法的理論基礎
        2.2.1 集成有效的原因
        2.2.2 誤差—分歧分解
        2.2.3 基分類器多樣性
    2.3 Bagging和 Boosting算法
        2.3.1 Bagging算法
        2.3.2 Boosting算法
    2.4 選擇性集成和動態(tài)集成
    2.5 本章小結
第三章 梯度優(yōu)化決策樹的集成學習及其應用
    3.1 問題的提出和相關研究
    3.2 集成學習算法
        3.2.1 多分類集成分類算法
        3.2.2 算法設計
        3.2.3 評價指標
        3.2.4 用于對比的幾種分類算法
        3.2.5 ESHC算法的時間復雜度
    3.3 實驗結果及分析
    3.4 本章小結
第四章 基于相關度分析的動態(tài)集成學習
    4.1 問題的提出和相關研究
    4.2 基于相關度分析的動態(tài)集成學習算法
        4.2.1 候選分類器排序
        4.2.2 動態(tài)集成算法
        4.2.3 DEBC算法的時間復雜度
    4.3 實驗結果及分析
    4.4 本章小結
第五章 總結與展望
    5.1 工作總結
    5.2 工作展望
參考文獻
攻讀學位期間所取得的相關科研成果
致謝



本文編號：3869605