近年來(lái),深度學(xué)習(xí)技術(shù)在多個(gè)領(lǐng)域取得十分優(yōu)異的成就,如計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和語(yǔ)音處理等,越來(lái)越多的相關(guān)應(yīng)用出現(xiàn),這給人們的生活帶來(lái)了很多便利。然而,深度學(xué)習(xí)在表現(xiàn)優(yōu)異的同時(shí),還存在易受攻擊的缺陷。攻擊方法通過(guò)在輸入樣本中增加一些微小的擾動(dòng),便可以讓深度學(xué)習(xí)模型做出錯(cuò)誤判斷。這給深度學(xué)習(xí)應(yīng)用帶來(lái)了巨大的安全問(wèn)題。當(dāng)前,已有很多關(guān)于防御對(duì)抗攻擊的研究成果出現(xiàn)。然而,多數(shù)防御策略只能應(yīng)對(duì)特定的攻擊方法,普適性比較低,另外這些防御策略多為全局過(guò)濾擾動(dòng),浪費(fèi)了大量算力。因此,本文針對(duì)上述缺點(diǎn),試圖提出一種高效且普適性高的防御策略。本文主要從以下三個(gè)方面展開(kāi)詳細(xì)研究:(1)首先詳細(xì)分析了多種經(jīng)典對(duì)抗攻擊方法,并對(duì)這些攻擊方法按照攻擊范圍分類。從分類中抽象出不同點(diǎn)與共同點(diǎn),發(fā)現(xiàn)對(duì)抗擾動(dòng)中存在敏感點(diǎn),敏感點(diǎn)的波動(dòng)影響深度學(xué)習(xí)模型的分類。受此啟發(fā),我們提出一種僅過(guò)濾對(duì)抗樣本中敏感點(diǎn)的防御策略,避免了對(duì)非敏感點(diǎn)的處理,減少了計(jì)算,提高了效率。(2)詳細(xì)研究了尋找敏感點(diǎn)與過(guò)濾敏感點(diǎn)的方法。為了提高防御策略的普適性,我們提出了一種基于差分進(jìn)化算法尋找敏感點(diǎn)的方法,采用黑盒的方式去尋找對(duì)抗樣本中的敏感點(diǎn),避免...

【文章頁(yè)數(shù)】：63 頁(yè)

【學(xué)位級(jí)別】：碩士

【文章目錄】：
摘要
Abstract
第1章 緒論
    1.1 研究背景和意義
    1.2 研究現(xiàn)狀
        1.2.1 數(shù)據(jù)層面防御
        1.2.2 模型層面防御
    1.3 主要研究?jī)?nèi)容與組織結(jié)構(gòu)
第2章 背景知識(shí)介紹
    2.1 深度學(xué)習(xí)
        2.1.1 卷積神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介
        2.1.2 深度學(xué)習(xí)經(jīng)典模型
    2.2 對(duì)抗攻擊
        2.2.1 對(duì)抗攻擊相關(guān)概念
        2.2.2 距離度量
        2.2.3 對(duì)抗攻擊方法介紹
    2.3 本章小結(jié)
第3章 基于對(duì)抗攻擊的防御策略
    3.1 全局攻擊
    3.2 局部攻擊
    3.3 防御策略
    3.4 本章小結(jié)
第4章 防御策略的設(shè)計(jì)與實(shí)現(xiàn)
    4.1 基于差分進(jìn)化算法尋找敏感點(diǎn)
        4.1.1 引言
        4.1.2 問(wèn)題描述
        4.1.3 問(wèn)題求解
        4.1.4 實(shí)驗(yàn)結(jié)果
    4.2 過(guò)濾敏感點(diǎn)
    4.3 實(shí)現(xiàn)防御策略
        4.3.1 配置實(shí)驗(yàn)環(huán)境
        4.3.2 訓(xùn)練網(wǎng)絡(luò)模型
        4.3.3 生成對(duì)抗樣本
        4.3.4 實(shí)驗(yàn)結(jié)果與分析
    4.4 本章小結(jié)
結(jié)論
參考文獻(xiàn)
攻讀碩士學(xué)位期間發(fā)表的論文及其它成果
致謝



本文編號(hào)：3866639