高效的貝葉斯推理電路設(shè)計(jì)及應(yīng)用
發(fā)布時(shí)間:2020-11-19 03:45
隨著計(jì)算機(jī)技術(shù)與人工智能領(lǐng)域的不斷發(fā)展,人們已經(jīng)開始在各行各業(yè)中引入機(jī)器來取代人做出各種判決。而由于龐大的計(jì)算量與復(fù)雜的模型制約,人們也更愿意依賴計(jì)算機(jī)去完成規(guī)律的把握、因果關(guān)系的學(xué)習(xí)、甚至決策的判決。而對于學(xué)習(xí)推理問題中的不確定性,人們常將其轉(zhuǎn)換成概率圖模型求解。對于具有因果關(guān)系的不確定性問題推理的往往采用貝葉斯推理的方式進(jìn)行求解。傳統(tǒng)方法中對貝葉斯推理中求解概率問題的解析解仍然具有很高的計(jì)算復(fù)雜度,因此人們常通過隨機(jī)采樣的方式獲得計(jì)算復(fù)雜度低的近似解。然而,采用傳統(tǒng)處理器結(jié)構(gòu)實(shí)現(xiàn)的采樣模塊仍具有較高的復(fù)雜度,因此本文設(shè)計(jì)實(shí)現(xiàn)了高性能、低復(fù)雜度的隨機(jī)采樣門電路來實(shí)現(xiàn)貝葉斯推理。首先,本文介紹了貝葉斯定理,隨后推導(dǎo)了MC采樣方法,包括逆采樣方法、拒絕采樣方法、重要采樣方法等,然后也詳細(xì)推導(dǎo)了MCMC方法,包括Metropolis采樣法、Metropolis-Hasting采樣法和Gibbs采樣法,也在推導(dǎo)經(jīng)典采樣方法的同時(shí)也說明了各種方法的局限性,為后文的貝葉斯推理電路設(shè)計(jì)提供了理論基礎(chǔ)。為了構(gòu)建具有貝葉斯推理能力的系統(tǒng),本文設(shè)計(jì)實(shí)現(xiàn)了隨機(jī)采樣門電路,并對每個(gè)采樣門的結(jié)構(gòu)詳細(xì)進(jìn)行了分析:對于設(shè)計(jì)的二元采樣門電路可以在每個(gè)時(shí)鐘周期完成一次采樣,而即使是最復(fù)雜的標(biāo)準(zhǔn)化多項(xiàng)采樣門可以在平均k個(gè)時(shí)鐘周期完成一次采樣。隨后通過利用概率分布條件獨(dú)立性的特點(diǎn)提出了并行采樣和隨機(jī)有限狀態(tài)機(jī)的設(shè)計(jì)思想,從系統(tǒng)層面優(yōu)化采樣流程,使得系統(tǒng)的效率得以提升。隨后本文介紹了基于MCMC方法的MIMO檢測器,將設(shè)計(jì)的隨機(jī)采樣門電路應(yīng)用于MIMO系統(tǒng)中,通過從概率分布中進(jìn)行采樣實(shí)現(xiàn)了MCMC-MIMO檢測器的功能,在性能較全精度MCMC-MIMO檢測器至多低1dB的基礎(chǔ)上,隨機(jī)采樣門電路能以低消耗、高效率地完成逐比特及逐符號的MCMC-MIMO檢測器功能。最后,本文將設(shè)計(jì)的隨機(jī)采樣門電路以軟件仿真和FPGA實(shí)現(xiàn)的方式進(jìn)行分析,給出了采樣門電路的資源消耗。并通過RTL代碼對Rain模型和Ising模型進(jìn)行實(shí)現(xiàn),完成了貝葉斯推理的功能。討論了隨機(jī)熵源和量化精度對隨機(jī)采樣門電路的影響:誤差會(huì)隨著熵源性能的提升得到改善,并且量化精度遠(yuǎn)低于傳統(tǒng)全精度的程度時(shí)就已經(jīng)能較精確的對分布進(jìn)行估計(jì),在量化位寬為5比特時(shí)估計(jì)得到的誤差最高僅為0.026,而量化位寬為12比特時(shí)采樣估計(jì)得到的誤差最高僅為0.0017;陔S機(jī)采樣門電路的大型系統(tǒng)能以更低的開銷更高的效率執(zhí)行。
【學(xué)位單位】:電子科技大學(xué)
【學(xué)位級別】:碩士
【學(xué)位年份】:2019
【中圖分類】:TP181;TP331
【部分圖文】:
成 Sprinkler 節(jié)點(diǎn)和 Rain 節(jié)點(diǎn)的采樣后,我們基于這兩個(gè)節(jié)點(diǎn)的采樣結(jié)果再對 Wet節(jié)點(diǎn)進(jìn)行采樣,同樣使用條件概率采樣門進(jìn)行采樣。圖5-2 基于 RTL 代碼的 Rain 模型采樣實(shí)現(xiàn)由于引入流水技術(shù),我們可以在一個(gè)時(shí)鐘得到四個(gè)節(jié)點(diǎn)的采樣值。采樣結(jié)果如圖 5-2 中的 samp 信號,其有效標(biāo)志位 samp_vld 信號。但是對某一次采樣結(jié)果來說,首先我們需要一個(gè)時(shí)鐘完成 Cloudy 節(jié)點(diǎn)的采樣,然后 Cloudy 節(jié)點(diǎn)采樣完成后,我們可以對 Sprinkler 節(jié)點(diǎn)和 Rain 節(jié)點(diǎn)并行采樣,這同樣需要一個(gè)時(shí)鐘。最后在得到 Sprinkler 節(jié)點(diǎn)和 Rain 節(jié)點(diǎn)的采樣結(jié)果后,我們以這兩個(gè)節(jié)點(diǎn)的值為條件輸入,對 Wet 節(jié)點(diǎn)進(jìn)行采樣
個(gè)時(shí)鐘都可以獲得一次點(diǎn)陣的更新,隨機(jī)有限狀態(tài)機(jī)的使用可以更高效的確定點(diǎn)陣更新的具體位置。下圖 5-3 展示了在溫度低于臨界溫度的情況圖5-3 基于 RTL 代碼的 Ising 模型采樣實(shí)現(xiàn)-系統(tǒng)溫度低于臨界溫度與第三章中結(jié)果相似,隨著采樣的進(jìn)行,在系統(tǒng)溫度低于臨界溫度時(shí),點(diǎn)陣中的點(diǎn)傾向于向著能量最小的方向演化,最終演化為所有點(diǎn)處于同一狀態(tài),而對于系統(tǒng)溫度高于臨界溫度時(shí),點(diǎn)陣中的點(diǎn)傾向于隨機(jī)變化,如圖 5-4 所示。圖5-4 基于 RTL 代碼的 Ising 模型采樣實(shí)現(xiàn)-系統(tǒng)溫度高于臨界溫度其中,Ising 模型消耗觸發(fā)器資源 553,查找表資源 897,指數(shù)運(yùn)算模塊 exp_lut消耗觸發(fā)器資源 4,查找表資源 268。RNG 消耗觸發(fā)器資源 17
中的點(diǎn)傾向于向著能量最小的方向演化,最終演化為所有點(diǎn)處于同一狀態(tài),而對于系統(tǒng)溫度高于臨界溫度時(shí),點(diǎn)陣中的點(diǎn)傾向于隨機(jī)變化,如圖 5-4 所示。圖5-4 基于 RTL 代碼的 Ising 模型采樣實(shí)現(xiàn)-系統(tǒng)溫度高于臨界溫度其中,Ising 模型消耗觸發(fā)器資源 553,查找表資源 897,指數(shù)運(yùn)算模塊 exp_lut消耗觸發(fā)器資源 4,查找表資源 268。RNG 消耗觸發(fā)器資源 17,查找表資源 637。
【參考文獻(xiàn)】
本文編號:2889647
【學(xué)位單位】:電子科技大學(xué)
【學(xué)位級別】:碩士
【學(xué)位年份】:2019
【中圖分類】:TP181;TP331
【部分圖文】:
成 Sprinkler 節(jié)點(diǎn)和 Rain 節(jié)點(diǎn)的采樣后,我們基于這兩個(gè)節(jié)點(diǎn)的采樣結(jié)果再對 Wet節(jié)點(diǎn)進(jìn)行采樣,同樣使用條件概率采樣門進(jìn)行采樣。圖5-2 基于 RTL 代碼的 Rain 模型采樣實(shí)現(xiàn)由于引入流水技術(shù),我們可以在一個(gè)時(shí)鐘得到四個(gè)節(jié)點(diǎn)的采樣值。采樣結(jié)果如圖 5-2 中的 samp 信號,其有效標(biāo)志位 samp_vld 信號。但是對某一次采樣結(jié)果來說,首先我們需要一個(gè)時(shí)鐘完成 Cloudy 節(jié)點(diǎn)的采樣,然后 Cloudy 節(jié)點(diǎn)采樣完成后,我們可以對 Sprinkler 節(jié)點(diǎn)和 Rain 節(jié)點(diǎn)并行采樣,這同樣需要一個(gè)時(shí)鐘。最后在得到 Sprinkler 節(jié)點(diǎn)和 Rain 節(jié)點(diǎn)的采樣結(jié)果后,我們以這兩個(gè)節(jié)點(diǎn)的值為條件輸入,對 Wet 節(jié)點(diǎn)進(jìn)行采樣
個(gè)時(shí)鐘都可以獲得一次點(diǎn)陣的更新,隨機(jī)有限狀態(tài)機(jī)的使用可以更高效的確定點(diǎn)陣更新的具體位置。下圖 5-3 展示了在溫度低于臨界溫度的情況圖5-3 基于 RTL 代碼的 Ising 模型采樣實(shí)現(xiàn)-系統(tǒng)溫度低于臨界溫度與第三章中結(jié)果相似,隨著采樣的進(jìn)行,在系統(tǒng)溫度低于臨界溫度時(shí),點(diǎn)陣中的點(diǎn)傾向于向著能量最小的方向演化,最終演化為所有點(diǎn)處于同一狀態(tài),而對于系統(tǒng)溫度高于臨界溫度時(shí),點(diǎn)陣中的點(diǎn)傾向于隨機(jī)變化,如圖 5-4 所示。圖5-4 基于 RTL 代碼的 Ising 模型采樣實(shí)現(xiàn)-系統(tǒng)溫度高于臨界溫度其中,Ising 模型消耗觸發(fā)器資源 553,查找表資源 897,指數(shù)運(yùn)算模塊 exp_lut消耗觸發(fā)器資源 4,查找表資源 268。RNG 消耗觸發(fā)器資源 17
中的點(diǎn)傾向于向著能量最小的方向演化,最終演化為所有點(diǎn)處于同一狀態(tài),而對于系統(tǒng)溫度高于臨界溫度時(shí),點(diǎn)陣中的點(diǎn)傾向于隨機(jī)變化,如圖 5-4 所示。圖5-4 基于 RTL 代碼的 Ising 模型采樣實(shí)現(xiàn)-系統(tǒng)溫度高于臨界溫度其中,Ising 模型消耗觸發(fā)器資源 553,查找表資源 897,指數(shù)運(yùn)算模塊 exp_lut消耗觸發(fā)器資源 4,查找表資源 268。RNG 消耗觸發(fā)器資源 17,查找表資源 637。
【參考文獻(xiàn)】
相關(guān)碩士學(xué)位論文 前4條
1 常衛(wèi)建;智能廣告投放平臺系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D];北京交通大學(xué);2017年
2 何帥寧;MCMC算法在MIMO技術(shù)中的研究及應(yīng)用[D];電子科技大學(xué);2016年
3 殷陶;馬爾科夫鏈蒙特卡洛方法的加速及應(yīng)用[D];上海交通大學(xué);2014年
4 劉沁沂;基于概率計(jì)算的FFT實(shí)現(xiàn)[D];電子科技大學(xué);2012年
本文編號:2889647
本文鏈接:http://www.sikaile.net/kejilunwen/jisuanjikexuelunwen/2889647.html
最近更新
教材專著