發(fā)布時間：2021-09-08 07:35

　　隨著深度學習模型在無人駕駛等安全敏感性任務中的廣泛應用,圍繞深度模型展開的攻防逐漸成為機器學習研究的熱點。黑盒攻擊是一種典型的攻擊場景,在攻擊者不知道模型具體使用結(jié)構(gòu)和參數(shù)等情況下仍能進行有效攻擊,是現(xiàn)實場景中最常用的攻擊方法。因此,分析深度學習模型的脆弱性并設計出更加魯棒的模型來對抗黑盒攻擊成為迫切需要。而傳統(tǒng)基于單模型的單強度和多強度對抗性訓練方法,在抵御黑盒攻擊時性能十分有限;基于多模型的集成對抗性訓練方法在抵御高強度、多樣化攻擊樣本效果也不理想。本文提出一種基于貪婪強度搜索的混合對抗性訓練方法,實驗結(jié)果表明,所提出的混合對抗性訓練能夠有效抵御多樣化的黑盒攻擊,性能優(yōu)于傳統(tǒng)的集成對抗性訓練。 

【文章來源】：南京航空航天大學學報. 2019,51(05)北大核心CSCD

【文章頁數(shù)】：9 頁

【文章目錄】：
1 相關工作
    1.1 黑盒攻擊過程
    1.2 攻擊算法
    1.3 對抗性訓練防御策略
        1.3.1 單模型對抗性訓練
        1.3.2 多模型集成對抗性訓練
2 基于貪婪搜索強度的混合對抗性訓練
3 實驗
    3.1 數(shù)據(jù)集
    3.2 實驗設置與結(jié)果分析
        3.2.1 實驗設置
        3.2.2 實驗過程及分析
        3.2.3 多樣化攻擊及模型精度
        3.2.4 算法性能分析
4 結(jié)論



本文編號：3390394