自然語(yǔ)言理解為核心技術(shù)的自動(dòng)問答（Question Answering,QA）是評(píng)價(jià)機(jī)器語(yǔ)言認(rèn)知智能的重要任務(wù),是由機(jī)器自動(dòng)回答用戶提出的問題以滿足用戶知識(shí)需求的任務(wù)。受益于互聯(lián)網(wǎng)數(shù)據(jù)的飛速增長(zhǎng)、計(jì)算機(jī)硬件計(jì)算能力的大幅度提升以及以深度學(xué)習(xí)為背景的自然語(yǔ)言處理技術(shù)的成熟,智能問答技術(shù)在近年來取得了突飛猛進(jìn)的發(fā)展,同時(shí)在生活中具有廣泛的應(yīng)用場(chǎng)景。自然語(yǔ)言表達(dá)的豐富多樣性給自然語(yǔ)言理解帶來極大的挑戰(zhàn)。在現(xiàn)實(shí)中,用戶的問題具有多樣性和不同程度的復(fù)雜性,準(zhǔn)確的理解并回答問題具有很高的難度。本文借助注意力機(jī)制（Attention）以及深度學(xué)習(xí)技術(shù),有效挖掘隱藏在語(yǔ)言表達(dá)中的深層語(yǔ)義信息,充分的理解用戶查詢意圖,實(shí)現(xiàn)正確回答。本文的研究工作主要包括如下幾部分:（1）建立了基于Scaled Dot-Product Attention機(jī)制的多模塊層次化問答模型。采用字符級(jí)的詞嵌入有效解決未登錄詞問題;通過Dot-Product實(shí)現(xiàn)注意力分布的捕獲,并進(jìn)一步融合篇章和問題之間的交互信息;基于自匹配的注意力機(jī)制解決了遠(yuǎn)距離依賴問題,為正確預(yù)測(cè)答案提供了有效的決策信息。（2）設(shè)計(jì)并構(gòu)建了基于遷移學(xué)習(xí)的生物醫(yī)... 

【文章來源】：北京工業(yè)大學(xué)北京市 211工程院校

【文章頁(yè)數(shù)】：81 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

神經(jīng)語(yǔ)言模型

北京工業(yè)大學(xué)工程碩士專業(yè)學(xué)位論文詞對(duì)應(yīng)的向量為正交，缺乏相關(guān)性。為了更好的進(jìn)行詞向量的ord2vec[50]進(jìn)行詞向量訓(xùn)練，將詞轉(zhuǎn)換為稠密向量表示。Wordle 于 2013 年開源的將詞表示為向量的高效工具，利用淺層神經(jīng)，Word2vec 模型分為兩種，分別為 Skip-Gram 和 CBOW，模

Residual結(jié)構(gòu)

【參考文獻(xiàn)】：
期刊論文
[1]融合深度匹配特征的答案選擇模型[J]. 馮文政,唐杰.  中文信息學(xué)報(bào). 2019(01)
[2]基于多篇章多答案的閱讀理解系統(tǒng)[J]. 劉家驊,韋琬,陳灝,杜彥濤.  中文信息學(xué)報(bào). 2018(11)
[3]T-Reader:一種基于自注意力機(jī)制的多任務(wù)深度閱讀理解模型[J]. 鄭玉昆,李丹,范臻,劉奕群,張敏,馬少平.  中文信息學(xué)報(bào). 2018(11)
[4]面向閱讀理解的多對(duì)一中文文本蘊(yùn)含問題研究[J]. 陳千,陳夏飛,郭鑫,王素格.  中文信息學(xué)報(bào). 2018(04)
[5]面向限定領(lǐng)域問答系統(tǒng)的自然語(yǔ)言理解方法綜述[J]. 王東升,王衛(wèi)民,王石,符建輝,諸峰.  計(jì)算機(jī)科學(xué). 2017(08)
[6]基于依存句法分析的復(fù)合事實(shí)型問句分解方法[J]. 劉雄,張宇,張偉男,劉挺.  中文信息學(xué)報(bào). 2017(03)



本文編號(hào)：2988970