基于循環(huán)神經(jīng)網(wǎng)絡(luò)的關(guān)系抽取方法研究
發(fā)布時(shí)間:2023-02-25 20:30
隨著互聯(lián)網(wǎng)急劇發(fā)展,大量非結(jié)構(gòu)文本數(shù)據(jù)日益增多,如何結(jié)構(gòu)化這些文本數(shù)據(jù)成為一個(gè)亟待解決的問(wèn)題,而自然語(yǔ)言處理任務(wù)的研究對(duì)象正是這些非結(jié)構(gòu)化的數(shù)據(jù)。其中關(guān)系抽取是自然語(yǔ)言處理任務(wù)中的一項(xiàng)重要基礎(chǔ)任務(wù)。關(guān)系抽取任務(wù)是問(wèn)答系統(tǒng)、知識(shí)圖譜、信息檢索等人工智能及其相關(guān)研究領(lǐng)域的基礎(chǔ)任務(wù)之一。關(guān)系抽取任務(wù)通過(guò)獲取句子中實(shí)體詞之間的關(guān)系,從而能夠自動(dòng)化構(gòu)建句子中存在的知識(shí),便于研究者構(gòu)建知識(shí)圖譜。傳統(tǒng)的關(guān)系抽取方式極為依賴(lài)人工經(jīng)驗(yàn),需要熟練且有相關(guān)知識(shí)的研究者手動(dòng)選取特征,這樣不僅導(dǎo)致特征選擇效率低下,而且易出錯(cuò)。但是近年來(lái)隨著深度學(xué)習(xí)的發(fā)展,更多的深度學(xué)習(xí)方法被應(yīng)用于自然語(yǔ)言處理任務(wù)中,并且獲得了很大的成功。但是這些使用深度學(xué)習(xí)方法的相關(guān)研究文獻(xiàn)仍存在一些不足之處。針對(duì)具體存在的問(wèn)題,本論文提出了三個(gè)基于深度學(xué)習(xí)的關(guān)系抽取模型,主要包含如下三個(gè)方面:(1)大多數(shù)關(guān)系抽取模型只使用了一種深度學(xué)習(xí)模型的,并不能將多種模型的優(yōu)點(diǎn)集于一身,因此本文提出一種基于雙通道自注意力的關(guān)系抽取模型,該模型通過(guò)使用卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)分別提取數(shù)據(jù)特征,使模型能夠有效利用兩個(gè)網(wǎng)絡(luò)模型的優(yōu)點(diǎn),彌補(bǔ)兩個(gè)模型各自的不足...
【文章頁(yè)數(shù)】:59 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景及意義
1.2 國(guó)內(nèi)外研究現(xiàn)狀
1.2.1 命名實(shí)體識(shí)別
1.2.2 傳統(tǒng)的關(guān)系抽取方法
1.2.3 基于深度學(xué)習(xí)的關(guān)系抽取方法
1.3 本文主要內(nèi)容
1.4 本文章節(jié)安排
第2章 相關(guān)背景和技術(shù)
2.1 詞向量
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.3 卷積神經(jīng)網(wǎng)絡(luò)
2.4 本章小結(jié)
第3章 基于雙通道自注意力的關(guān)系抽取模型
3.1 雙通道自注意力模型
3.1.1 雙向長(zhǎng)短時(shí)記憶層
3.1.2 自注意力層
3.2 數(shù)據(jù)及數(shù)據(jù)預(yù)處理
3.3 實(shí)驗(yàn)及結(jié)果分析
3.3.1 評(píng)價(jià)標(biāo)準(zhǔn)
3.3.2 模型訓(xùn)練及參數(shù)調(diào)整
3.3.3 實(shí)驗(yàn)結(jié)果及分析
3.4 本章小結(jié)
第4章 基于輔助模型的關(guān)系抽取模型
4.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
4.2 實(shí)驗(yàn)數(shù)據(jù)及環(huán)境
4.3 實(shí)驗(yàn)及結(jié)果分析
4.3.1 模型訓(xùn)練及參數(shù)設(shè)置
4.3.2 實(shí)驗(yàn)結(jié)果及分析
4.4 本章小結(jié)
第5章 基于選擇門(mén)網(wǎng)絡(luò)的關(guān)系抽取模型
5.1 選擇門(mén)網(wǎng)絡(luò)模型
5.1.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
5.1.2 注意力層結(jié)構(gòu)
5.2 實(shí)驗(yàn)結(jié)果及分析
5.2.1 模型訓(xùn)練及參數(shù)設(shè)置
5.2.2 實(shí)驗(yàn)結(jié)果及分析
5.3 本章小結(jié)
第6章 總結(jié)與展望
參考文獻(xiàn)
致謝
攻讀學(xué)位期間發(fā)表的學(xué)術(shù)論文目錄
本文編號(hào):3749142
【文章頁(yè)數(shù)】:59 頁(yè)
【學(xué)位級(jí)別】:碩士
【文章目錄】:
摘要
ABSTRACT
第1章 緒論
1.1 研究背景及意義
1.2 國(guó)內(nèi)外研究現(xiàn)狀
1.2.1 命名實(shí)體識(shí)別
1.2.2 傳統(tǒng)的關(guān)系抽取方法
1.2.3 基于深度學(xué)習(xí)的關(guān)系抽取方法
1.3 本文主要內(nèi)容
1.4 本文章節(jié)安排
第2章 相關(guān)背景和技術(shù)
2.1 詞向量
2.2 循環(huán)神經(jīng)網(wǎng)絡(luò)
2.3 卷積神經(jīng)網(wǎng)絡(luò)
2.4 本章小結(jié)
第3章 基于雙通道自注意力的關(guān)系抽取模型
3.1 雙通道自注意力模型
3.1.1 雙向長(zhǎng)短時(shí)記憶層
3.1.2 自注意力層
3.2 數(shù)據(jù)及數(shù)據(jù)預(yù)處理
3.3 實(shí)驗(yàn)及結(jié)果分析
3.3.1 評(píng)價(jià)標(biāo)準(zhǔn)
3.3.2 模型訓(xùn)練及參數(shù)調(diào)整
3.3.3 實(shí)驗(yàn)結(jié)果及分析
3.4 本章小結(jié)
第4章 基于輔助模型的關(guān)系抽取模型
4.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
4.2 實(shí)驗(yàn)數(shù)據(jù)及環(huán)境
4.3 實(shí)驗(yàn)及結(jié)果分析
4.3.1 模型訓(xùn)練及參數(shù)設(shè)置
4.3.2 實(shí)驗(yàn)結(jié)果及分析
4.4 本章小結(jié)
第5章 基于選擇門(mén)網(wǎng)絡(luò)的關(guān)系抽取模型
5.1 選擇門(mén)網(wǎng)絡(luò)模型
5.1.1 網(wǎng)絡(luò)模型結(jié)構(gòu)
5.1.2 注意力層結(jié)構(gòu)
5.2 實(shí)驗(yàn)結(jié)果及分析
5.2.1 模型訓(xùn)練及參數(shù)設(shè)置
5.2.2 實(shí)驗(yàn)結(jié)果及分析
5.3 本章小結(jié)
第6章 總結(jié)與展望
參考文獻(xiàn)
致謝
攻讀學(xué)位期間發(fā)表的學(xué)術(shù)論文目錄
本文編號(hào):3749142
本文鏈接:http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/3749142.html
最近更新
教材專(zhuān)著