近些年,機器學習技術推動了人工智能領域的飛速發(fā)展,在計算機視覺、醫(yī)療、自動駕駛等領域得到了廣泛應用。與此同時,機器學習所帶來的信息安全問題和隱私保護問題引起了人們的關注。在安全方面,機器學習模型可能受到投毒攻擊、對抗樣本攻擊等,因而導致嚴重的安全事故;在隱私保護方面,因為機器學習模型的訓練和預測都是在明文域上進行的,用戶的數(shù)據(jù)隱私遭受著被泄露的威脅。本文調研了機器學習中的安全問題和隱私保護問題,對這些問題進行了分析和總結。針對眾多機器學習安全和隱私保護問題,本文聚焦在兩個具體場景下的問題。第一個問題是交通標志的對抗樣本攻擊,自動駕駛的交通標志識別系統(tǒng)基于神經網(wǎng)絡模型,攻擊者通過在交通標志上加入對抗樣本噪聲,就可以使識別系統(tǒng)發(fā)生故障并引發(fā)交通事故;第二個是云計算機器學習模型中用戶數(shù)據(jù)隱私泄露問題,在用戶使用云計算機器學習服務時,需要將自己的數(shù)據(jù)以明文的方式上傳至服務器,用戶的數(shù)據(jù)隱私可能被服務器泄露。本文對這兩個具體場景下的問題提出了解決方案,主要貢獻如下:（1）對基于神經網(wǎng)絡模型的交通標志分類器遭受對抗樣本攻擊的問題,我們提出了一種基于傳統(tǒng)圖像斑點檢測特征的防御方法。我們通過理論和實驗... 

【文章來源】：西安電子科技大學陜西省 211工程院校 教育部直屬院校

【文章頁數(shù)】：65 頁

【學位級別】：碩士

【部分圖文】：

多層感知機每層的結構和其整體結構

[45]。圖2.2 激活函數(shù) ReLU，Sigmoid Function，Tanh 的函數(shù)圖像神經網(wǎng)絡模型每一層的結構以及整體結構與多層感知機幾乎相同，但是，神經網(wǎng)絡模型在每一層的神經元計算中加入了激活函數(shù)。和多層感知機類似，每一層神經網(wǎng)絡的計算先經過線性變換，然后在將線性變換結果輸入下一層之前，需要經過激活函數(shù)的計算，這也就是神經網(wǎng)絡和多層感知機最大的不同。由于經過了激活函數(shù)，神經網(wǎng)絡就有了非線性擬合的能力。我們可以將神經網(wǎng)絡的每一層計算表示為下面的公式：yj=f (∑Wij×xi+b) (2-2)其中的變量符號含義與多層感知機相同，其中的f ( )表示激活函數(shù)。經過f ( )計算的結

邊為原始圖像的 SIFT 特征點，右邊為對抗樣本圖像的 SIFT 特征點�？梢钥闯觯m然對抗樣本圖像的特征點多于原始圖像，但是很多特征點都是相似的。圖3.1 原始圖像和對抗樣本圖像圖3.2 原始圖像和對抗樣本圖像的 SURF 特征點進一步，我們對這兩張圖像的 SIFT 特征點進行匹配，如圖 3.3 所示，我們使用KNN 算法進行匹配，圖中紅色的連線表示匹配到的特征點，我們可以直觀的看出匹

【參考文獻】：
期刊論文
[1]機器學習安全及隱私保護研究進展.[J]. 宋蕾,馬春光,段廣晗.  網(wǎng)絡與信息安全學報. 2018(08)



本文編號：3498184