發(fā)布時間：2022-05-08 17:38

　　機(jī)器閱讀理解是語言處理的一個重要分支,目的是讓機(jī)器理解文本的語義并推理相關(guān)結(jié)論。機(jī)器閱讀理解的主要過程是通過輸入給定的文章和問題,輸出與問題相匹配的答案。相對于傳統(tǒng)的問答系統(tǒng),機(jī)器閱讀理解不依賴于強(qiáng)大的知識庫系統(tǒng),而是從小范圍的文章中尋找各個單元之間的關(guān)系。此類任務(wù)的數(shù)據(jù)集是從人類語言能力測試題的閱讀理解這一類題型得到的。對此類任務(wù)的探索有助于機(jī)器更好地模擬人類的思考方式,是達(dá)到高級人工智能的重要一步。目前已有的機(jī)器閱讀理解方法在文本表示和推理機(jī)制上的兩方面不足�，F(xiàn)階段的文本表示問題通常使用詞向量來解決,傳統(tǒng)的詞向量不僅缺少對一詞多義的區(qū)分,而且對于機(jī)器閱讀理解任務(wù),預(yù)訓(xùn)練的詞向量往往會引入外部知識的關(guān)系。從目前的機(jī)器閱讀理解答案推理模型來看,大多數(shù)基于單類型的注意力機(jī)制進(jìn)行語義理解和答案推理,對于文本內(nèi)部關(guān)系的深度挖掘還有一定的不足。我們基于機(jī)器閱讀理解任務(wù)的兩方面提出改進(jìn),分別是文本表示和推理答案兩方面�；谝环N多級語義表示模型,分別通過字符水平表示、詞嵌入表示、特征工程表示以及上下文嵌入表示,使得文本表示能夠適應(yīng)機(jī)器閱讀理解的特定任務(wù)。其次,實(shí)現(xiàn)了兩種混合注意力機(jī)制模型去解決該類... 

【文章頁數(shù)】：64 頁

【學(xué)位級別】：碩士

【文章目錄】：
摘要
Abstract
1 緒論
    1.1 研究背景與意義
    1.2 國內(nèi)外研究概況
    1.3 論文的主要研究內(nèi)容
2 關(guān)鍵技術(shù)研究
    2.1 感知器和激活函數(shù)
    2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
    2.3 自然語言處理的預(yù)訓(xùn)練和詞向量
    2.4 端到端模型和注意力機(jī)制
    2.5 機(jī)器閱讀理解的任務(wù)形式
    2.6 本章小結(jié)
3 多級語義表示和混合注意力機(jī)制
    3.1 模型概述
    3.2 基于多級語義的文本表示模型
    3.3 基于混合注意力機(jī)制的語義理解模型
    3.4 本章小結(jié)
4 實(shí)驗(yàn)
    4.1 數(shù)據(jù)集
    4.2 評價(jià)指標(biāo)
    4.3 數(shù)據(jù)預(yù)處理和表示
    4.4 模型訓(xùn)練
    4.5 結(jié)果分析
    4.6 本章小結(jié)
5 總結(jié)與展望
    5.1 全文總結(jié)
    5.2 展望
致謝
參考文獻(xiàn)


【參考文獻(xiàn)】：
期刊論文
[1]基于雙線性函數(shù)注意力Bi-LSTM模型的機(jī)器閱讀理解[J]. 劉飛龍,郝文寧,陳剛,靳大尉,宋佳星.  計(jì)算機(jī)科學(xué). 2017(S1)



本文編號：3652087