當下正處于人工智能（AI）在不斷發(fā)展進步的時代,同時也是以大數(shù)據(jù)為基礎(chǔ)的時代。但是在面臨這樣一個數(shù)據(jù)爆炸增長的大數(shù)據(jù)時代,如何合理的運用這些數(shù)據(jù)使得我們的日常生活變得便捷智能,這就需要不斷提升的計算能力以及各種各樣的性能強大的算法來支持。比如當下發(fā)展十分迅速的機器學習算法。但是,一個機器學習算法性能的好壞受到其自身的超參數(shù)的影響是很大的,因此,對于機器學習算法未來走向?qū)嵱?設(shè)計出一個超參數(shù)自動調(diào)優(yōu)算法是有著非常重要的意義。目前已經(jīng)提出過很多的超參數(shù)自動調(diào)優(yōu)的算法,比如基于不同代替函數(shù)的貝葉斯優(yōu)化算法,其中包括基于Tree Parzen Estimator（TPE）的Hyperopt框架、基于隨機森林Random Forest的SMAC框架以及還有基于高斯回歸過程的貝葉斯優(yōu)化算法等等。除此之外,還有很多通過各種進化算法的思想,比如模擬退火算法、基因遺傳算法以及粒子群優(yōu)化算法等等,實現(xiàn)對機器學習模型的超參數(shù)優(yōu)化過程。但是上述算法都存在一定的缺點,本文針對進化調(diào)優(yōu)算法和貝葉斯優(yōu)化算法的缺點與不足分別提出了兩種超參數(shù)自動調(diào)優(yōu)算法。首先第一個創(chuàng)新點是提出了一種與貝葉斯優(yōu)化同為數(shù)據(jù)驅(qū)動優(yōu)化算法的基... 

【文章頁數(shù)】：59 頁

【學位級別】：碩士

【文章目錄】：
摘要
ABSTRACT
第1章 緒論
    1.1 研究背景與意義
    1.2 研究現(xiàn)狀
    1.3 本文的主要研究內(nèi)容與組織結(jié)構(gòu)
        1.3.1 本文的主要研究內(nèi)容
        1.3.2 本文的文章組織結(jié)構(gòu)
第2章 超參數(shù)優(yōu)化問題和目標模型選擇
    2.1 超參數(shù)優(yōu)化問題
    2.2 機器學習的超參數(shù)優(yōu)化問題表述
    2.3 目標模型選擇
        2.3.1 常用ML模型
        2.3.2 超參數(shù)調(diào)優(yōu)目標模型選擇
    2.4 本章小結(jié)
第3章 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法
    3.1 常用的優(yōu)化算法
        3.1.1 進化算法
    3.2 基于量子遺傳的超參數(shù)自動調(diào)優(yōu)算法
        3.2.1 量子遺傳算法
        3.2.2 基于量子遺傳的超參數(shù)自動調(diào)優(yōu)算法
        3.2.3 基于量子遺傳的超參數(shù)調(diào)優(yōu)算法的改進及完善
    3.3 實驗
        3.3.1 實驗描述
        3.3.2 實驗結(jié)果
        3.3.3 實驗分析總結(jié)
    3.4 本章小結(jié)
第4章 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
    4.1 基于數(shù)據(jù)驅(qū)動的優(yōu)化算法
    4.2 貝葉斯優(yōu)化
        4.2.1 高斯回歸過程GP
        4.2.2 采集函數(shù)
        4.2.3 算法步驟
    4.3 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
        4.3.1 MARS回歸算法
        4.3.2 基于MARS回歸的超參數(shù)調(diào)優(yōu)算法
    4.4 實驗
        4.4.1 實驗過程及結(jié)果
        4.4.2 實驗分析總結(jié)
    4.5 本章小結(jié)
結(jié)論
參考文獻
攻讀碩士學位期間發(fā)表的論文及其它成果
致謝



本文編號：3732504