發(fā)布時間：2020-11-13 16:23

　　 新興的憶阻交叉陣列由于非線性、非易失性、低功耗和高集成度等優(yōu)點,在神經(jīng)形態(tài)計算系統(tǒng)(Neuromorphic Computing Systems,NCS)中具有很好的應用前景。但是大多數(shù)大型神經(jīng)網(wǎng)絡都是稀疏的,這與憶阻陣列提供的高密度連接相矛盾;同時由于不成熟的制造工藝,目前可用的憶阻交叉陣列規(guī)模有限;且憶阻交叉陣列中存在一定比例的故障。針對上述問題,本文面向NCS提出了憶阻交叉陣列上的大規(guī)模神經(jīng)網(wǎng)絡容錯映射框架,主要工作如下:(1)本文設計了一種面向基于憶阻陣列的神經(jīng)形態(tài)計算系統(tǒng)的容錯映射方法。該方法主要包括容錯驅動的神經(jīng)元譜聚類算法,采用0-1矩陣表示聚類神經(jīng)元間的突觸連接關系,通過基于海明距離的譜聚類距離定義,引導形成具有一定稀疏度的且行間海明距離最大化的神經(jīng)元突觸子矩陣,將容錯問題轉換為找到突觸子矩陣和憶阻陣列矩陣之間的有效映射問題,提升通過映射階段的列置換方法對矩陣進行重排列來避開故障憶阻器的可能性;通過基于二分匹配的啟發(fā)式算法,完成神經(jīng)突觸矩陣到故障憶阻陣列的映射。(2)為了實現(xiàn)一定規(guī)模憶阻陣列下的通用性設計,本文設計了基于固定尺寸憶阻陣列的大規(guī)模容錯聚類方法。該方法通過基于劃分算法的容錯驅動聚類方法將突觸連接聚類為大小相近的集群,擴大了在可接受時間內(nèi)處理的神經(jīng)網(wǎng)絡規(guī)模;通過對突觸子矩陣到固定尺寸憶阻陣列映射成功概率的估計,在保證一定映射成功率的條件下最大化突觸連接子矩陣,提升憶阻陣列的利用率;提出通過對半轉置方法,降低非對稱矩陣的行列差距,提升給定憶阻陣列可容納的突觸連接子矩陣規(guī)模,減少憶阻交叉陣列數(shù)目。最后根據(jù)聚類結果,通過蒙特卡洛方法來進行模擬。模擬結果顯示,在固定故障的故障注入率一共為10.79%的情況下,FTNCS框架可以實現(xiàn)96.69%的映射成功率,FTDC-NCS框架的映射成功率更是達到了 99.52%,而且對于含有百萬突觸的大規(guī)模神經(jīng)網(wǎng)絡,相比于FTNCS,FTDC-NCS將運行時間從6h減少到1500秒左右,同時提高了憶阻陣列的利用率。
【學位單位】：中國科學技術大學
【學位級別】：碩士
【學位年份】：2020
【中圖分類】：TN60;TP183
【部分圖文】：

?第１章緒論???第１章緒論??１．１研究背景及意義??近年來，人工智能得到了飛速的發(fā)展，對于信息處理和計算能力的要求也爆??炸式增長。而傳統(tǒng)計算機中的中央處理器（ＣＰＵ）在物理上與存儲元件分離，這??種體系結構造成了馮？諾依曼瓶頸，其固有的高數(shù)據(jù)傳輸開銷導致無法滿足高性??能計算的需求［１］。相對來說，人腦是一個高效的存算一體的信息存儲與計算引擎，??它能存儲３．５?ＰＢ的數(shù)據(jù)，并提供２０?ｐｅｔａＦＬＯＰｓ的計算能力，卻僅僅消耗２０Ｗ的??功耗［２］。與人腦相比，基于ＣＭＯＳ的ＣＰＵ只能達到１．５?ＧＯＰｓ／Ｗ氣雖然隨著ＣＭＯＳ??器件尺寸的縮小和定制化設計的發(fā)展，能效逐漸提高，但是由于器件上的限制，??這種趨勢無法持續(xù)。??圖１．１大腦的層次結構問??人腦與傳統(tǒng)計算機之間巨大的能源效率差距使人們嘗試去探索其中的原因，??科學家通過研究發(fā)現(xiàn)，人類大腦擁有與眾不同的信息處理方式。人腦含有約１０＂??神經(jīng)元和１〇１５突觸其層次結構如圖１．１所示，而對人腦的分析揭示了幾個重??要特征。首先，大腦是集存儲與計算于一體的，它可以并行地處理信息，克服了??眾所周知的“內(nèi)存墻”問題，并減少了將數(shù)據(jù)從內(nèi)存?zhèn)鬏數(shù)接嬎銌卧璧哪芰浚??是一種非馮？諾依曼構架。其次，大腦不是基于布爾代數(shù)的，而布爾代數(shù)是基于??１??

?第１章緒論???大規(guī)模集成（ＶＬＳＩ）與模擬生物神經(jīng)系統(tǒng)的模擬元件作為“神經(jīng)形態(tài)”系統(tǒng)，而最??近這個術語己經(jīng)包括了基于人工神經(jīng)網(wǎng)絡、生物啟發(fā)或非馮？諾依曼體系結構的??實現(xiàn)。模仿神經(jīng)生物學結構中的神經(jīng)網(wǎng)絡以實現(xiàn)神經(jīng)系統(tǒng)模型的硬件系統(tǒng)被稱作??神經(jīng)形態(tài)計算系統(tǒng)［４］。??神經(jīng)形態(tài)計算系統(tǒng)近年來經(jīng)常作為馮？諾依曼系統(tǒng)的補充體系結構出現(xiàn)：在??傳統(tǒng)的馮？諾依曼體系結構中，一個（或幾個并行）的邏輯核心對從內(nèi)存中獲取??的數(shù)據(jù)進行順序操作：而神經(jīng)形態(tài)計算系統(tǒng)將計算和存儲同時分布在大量相對原??始的“神經(jīng)元”中，每個神經(jīng)元都與數(shù)百或數(shù)千個神經(jīng)元通信。因此神經(jīng)形態(tài)計??算系統(tǒng)通常是高度并行、廣泛連接的，并且消除了?ＣＰＵ計算能力和內(nèi)存帶寬之??間的差距。神經(jīng)形態(tài)計算涉及的領域相當廣泛，包括如材料科學、神經(jīng)科學、電??氣工程、計算機工程和計算科學等。神經(jīng)形態(tài)計算擁有的諸多特性，使得人們開??始對它進行研宄與開拓，如圖１．２是海德堡大學開發(fā)的第一個神經(jīng)形態(tài)芯片??Ｓｐｉｋｅｙ［４】。??圖１．２神經(jīng)形態(tài)芯片“Ｓｐｉｋｅｙ”?Ｗ??在神經(jīng)形態(tài)計算的早期研宄中，神經(jīng)形態(tài)系統(tǒng)的固有并行性是最普遍的研究??方向，這得益于在生物大腦中觀察到的并行性，但是該并行性是在單個芯片上實??現(xiàn)的。神經(jīng)形態(tài)系統(tǒng)強調了許多簡單的處理組件（通常以神經(jīng)元的形式），它們??之間具有相對密集的互連（通常以突觸的形式），從而使它們與當時的其他并行??計算平臺區(qū)分開。??３??

?第１章緒論???ＣＴ）和電感（的關聯(lián)時，通過數(shù)學概念從對稱性出發(fā)推導出的一種新基??本電路元件，可以用來表示ｇ和＜／＞之間缺失的關系，Ｌｅｏｎ?Ｃｈｕａ將其稱為憶阻器，??如圖１．３所示。但是直到２００８年，惠普公司才成功制作出了第一個實體憶阻器，??這是一個在兩個金屬板之間具有氧化鈦薄膜的雙端納米器件，它使憶阻器從理論??變成了現(xiàn)實。???￣－—??？—ＶＳＡｒ－＃?Ａ?？—｜?｜—？????電阻?ｆ?電荇??ｄｖ?－?Ｒｄｉ?芝?ｄｑ?＊?Ｃｄｖ??（７＾?＜???????■！?＝?ｉｄｔ??？－ｒｉｎｎｒ＃＞ｋ??電感?憶阻??ｄ（／＞?＝?Ｌｄｉ?＝?Ｍｄｑ??＞?ｒ????？ＧＨ???憶阻系統(tǒng)??圖１．３電阻、電感、電容及憶阻器間的關系Ｗ??憶阻器是一種具有動態(tài)電阻的器件，其定義特性是通量（施加電壓的積分）??和電荷（通過它的電流的積分）之間的函數(shù)關系。如公式１．１所示，憶阻器的電??阻取決于流過它的電荷及其先前的電阻狀態(tài)，其中Ｍ?（ｇ）為憶阻值，具有電阻??的量綱。??ｄ（ｆ）?＝?Ｍ｛ｑ）ｄｑ?（１．１）??憶阻器與其他普通電阻器不同，具有非易失性。作為一種新型的兩端電路元??件，憶阻器還具有很多優(yōu)點：??１．憶阻器是納米級器件，其存儲密度大，使延續(xù)摩爾定律成為可能。??２．憶阻器具有連續(xù)的輸入輸出特性。??３．憶阻器的信息存儲速度要比在快閃內(nèi)存上快３個數(shù)量級，將憶阻器用作??存儲設備具有閃存、ＳＲＡＭ和ＤＲＡＭ的集體優(yōu)勢。??４．憶阻器有獨特的開關轉換機制，可以用作多層單元，還具有低功耗和天??然的記憶功能。??５．憶阻器是非線性的，而且可以與晶體
【參考文獻】

相關碩士學位論文 前2條

1 劉友超;基于近鄰相似圖的譜聚類算法研究與應用[D];江南大學;2019年

2 劉記朋;基于RRAM陣列的神經(jīng)形態(tài)計算訓練電路設計[D];哈爾濱工業(yè)大學;2016年

本文編號：2882379