語義分析是對非結(jié)構(gòu)文本進行理解的一種重要手段,對自然語言處理領(lǐng)域中的多項應(yīng)用具有重要意義。語義角色標注是文本語義分析的重要工具,且作為語義分析中的一種淺層分析技術(shù),一直是自然語言處理領(lǐng)域的研究熱點。語義角色標注的主要目標是識別出給定句子中的“謂語-論元”結(jié)構(gòu),并為所有論元分配在謂語所指事件中擔任的語義角色。以往的語義角色標注研究大多基于傳統(tǒng)的機器學(xué)習(xí)算法,這些方法依賴于句法分析的結(jié)果,進而選取有效的特征及特征組合。特征工程是一項費時費力的人工經(jīng)驗性任務(wù),且句法分析器的錯誤分析結(jié)果會影響語義角色標注模型的性能。隨著深度神經(jīng)網(wǎng)絡(luò)的強勢崛起,越來越多的研究者開始使用深度神經(jīng)網(wǎng)絡(luò)來完成語義角色標注,通過模型自動提取特征來減少對人工構(gòu)造特征的依賴。雖然現(xiàn)有的許多深度神經(jīng)網(wǎng)絡(luò)模型已在語義角色標注上取得不錯的成績,但這些模型仍存在一些問題:一、如何更好地利用詞性和語義角色間的語義依賴關(guān)系;二、如何有效地將依存樹中的依存句法信息加入到語義角色標注任務(wù)中;三、忽視了選擇性偏好信息能夠為語義角色標注提供豐富的語義信息。（1）針對如何更好地利用詞性和語義角色間的語義依賴關(guān)系的問題,提出了一種將詞性和語義角色... 

【文章來源】：河南大學(xué)河南省

【文章頁數(shù)】：78 頁

【學(xué)位級別】：碩士

【部分圖文】：

共享編碼層的Bi-LSTM層數(shù)對語義角色標注結(jié)果的影響

基于深度神經(jīng)網(wǎng)絡(luò)的語義角色標注研究30圖3-4主輔任務(wù)的交替訓(xùn)練次數(shù)比對語義角色標注任務(wù)性能的影響當主輔任務(wù)的訓(xùn)練次數(shù)比為1時，相當于依次交替訓(xùn)練，損失值逐漸下降但很快穩(wěn)定，與其他兩個設(shè)定相比最大；當主輔任務(wù)的訓(xùn)練次數(shù)比為2時，損失值下降很快且明顯小于次數(shù)比為1時的損失值；當設(shè)定訓(xùn)練次數(shù)比為3時，損失值下降速度慢于次數(shù)比為2時，但最終損失變化穩(wěn)定時，其損失值為三種設(shè)定中最低。所以本文將主要任務(wù)與輔助任務(wù)的交替訓(xùn)練次數(shù)比設(shè)定為3。對于模型中的其他關(guān)鍵參數(shù)，本文采用相同的辦法逐一確定參數(shù)值，最終本模型的超參數(shù)設(shè)定如表3-3所示。表3-3本模型的超參數(shù)表參數(shù)名參數(shù)值詞嵌入維度300Bi-LSTM隱藏層神經(jīng)元數(shù)300Bi-LSTM層數(shù)3學(xué)習(xí)率0.0001丟失率0.5批處理大小1283.3.2模型訓(xùn)練時間的對比在評價一個深度神經(jīng)網(wǎng)絡(luò)模型的性能時，模型的訓(xùn)練時間是一個重要的衡量指標。近幾年來，深度神經(jīng)網(wǎng)絡(luò)的不斷發(fā)展為圖像、語音和自然語言處理領(lǐng)域中的各項任務(wù)帶來跨越式提升。在圖像處理領(lǐng)域中，考驗?zāi)Ｐ驮诖髷?shù)據(jù)集上訓(xùn)練速度的基準為：在

圖4-5雙向長短時記憶網(wǎng)絡(luò)隱藏層神經(jīng)元個數(shù)對模型損失值的影響

【參考文獻】：
期刊論文
[1]多任務(wù)學(xué)習(xí)[J]. 張鈺,劉建偉,左信.  計算機學(xué)報. 2020(07)
[2]語義角色標注研究綜述[J]. 李業(yè)剛,孫福振,李鑒柏,呂新宇.  山東理工大學(xué)學(xué)報(自然科學(xué)版). 2011(06)
[3]語義角色標注中句法特征的研究[J]. 李軍輝,王紅玲,周國棟,朱巧明,錢培德.  中文信息學(xué)報. 2009(06)
[4]基于語義組塊分析的漢語語義角色標注[J]. 丁偉偉,常寶寶.  中文信息學(xué)報. 2009(05)
[5]基于最大熵分類器的語義角色標注[J]. 劉挺,車萬翔,李生.  軟件學(xué)報. 2007(03)



本文編號：3597198