城市交通發(fā)展帶來了大量的交通路況查詢、報警處理等信息服務(wù)需求,傳統(tǒng)的人工服務(wù)已不能滿足實際的應(yīng)用需求,人機對話技術(shù)逐步應(yīng)用于交通信息服務(wù)領(lǐng)域。在人機信息交互過程中意圖識別和對話文本生成是人機對話系統(tǒng)的核心,但人機對話技術(shù)在交通信息服務(wù)領(lǐng)域的應(yīng)用還存在以下問題:一是用戶的對話內(nèi)容口語性強,不能有效提取用戶的對話意圖;二是當用戶對話內(nèi)容無明顯對話意圖時,往往出現(xiàn)答非所問的情況。針對上述問題,本文將基于深度學(xué)習(xí)的文本分類技術(shù)和文本生成技術(shù)應(yīng)用于人機對話系統(tǒng),通過文本分類識別用戶的對話意圖,根據(jù)對話意圖類別調(diào)整對話策略,并針對用戶對話意圖不明確的對話內(nèi)容,采用基于深度學(xué)習(xí)的文本生成技術(shù)進行應(yīng)答,提高了面向交通信息服務(wù)人機對話系統(tǒng)的用戶體驗和智能性,具有重要的研究意義。具體研究內(nèi)容如下:（1）針對交通信息服務(wù)領(lǐng)域用戶對話文本較短、口語性強的特點,采用融合卷積神經(jīng)網(wǎng)絡(luò)和長短記憶模型的方法,構(gòu)建了基于雙向長短記憶模型與卷積神經(jīng)網(wǎng)絡(luò)的用戶意圖識別模型。實驗表明,該模型可以有效抽取用戶對話文本的文本特征,提高用戶意圖識別的準確率。（2）針對交通信息服務(wù)領(lǐng)域某些應(yīng)用場景語料相對較少且獲取困難,無法滿足深度... 

【文章來源】：北方工業(yè)大學(xué)北京市

【文章頁數(shù)】：63 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖２－１卷積神經(jīng)網(wǎng)絡(luò)的意圖識別模型示意圖??２．２基于長短記憶模型的的文本特征抽取與意圖識別??

?最大池化層?＿出層??圖２－１卷積神經(jīng)網(wǎng)絡(luò)的意圖識別模型示意圖??２．２基于長短記憶模型的的文本特征抽取與意圖識別??雖然卷積神經(jīng)網(wǎng)絡(luò)（ＣＮＮ）能夠抽取文本的空間特征且在用戶意圖識別方面??上取得了不錯的效果，卻無法有效的抽取對話文本的序列信息。面對上述問題，??研宄者逐步將長短記憶模型（ＬＳＴＭ）應(yīng)用于用戶對話意圖識別。長短記憶模型??（ＬＳＴＭ）是一種特殊形式的循環(huán)神經(jīng)網(wǎng)絡(luò)（ＲＮＮ），該模型的提出主要是為了解??決傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡(luò)（ＲＮＮ）存在梯度爆炸和梯度消失的問題。由于ＬＳＴＭ在??文本序列信息抽取和解決長期依賴問題的優(yōu)異表現(xiàn)，在自然語言處理領(lǐng)域得到了??廣泛應(yīng)用。雖然ＬＳＴＭ模型的變體很多，本章ＬＳＴＭ模型主要采用基于Ｇｒａｖｅｓ??的提出的ＬＳＴＭ的變體，結(jié)構(gòu)如下圖２－２所示。??ＬＳＴＭ模型由一系列重復(fù)的記憶單元組成，每個時間步ｔ上的記憶單元由輸??９??

本的序列信息。同時通過采用雙向長短記憶模型，每個時間步的輸出都可以包含??完整的上下文信息，相比于單向的長短記憶模型可以更好的對文本進行表示。其??模型結(jié)構(gòu)如下圖２－３所示。??該模型由文本輸入層，長短記憶層，卷積層，池化層以及Ｓｏｆｔｍａｘ層組成。??長短記憶層接收對話文本的詞向量，并生成新的編碼，隨后將長短記憶層的輸出??輸入到卷積層，通過卷積層提取文本的局部特征。卷積層的輸出匯集成一個低維??的向量，最終通過Ｓｏｆｔｍａｘ層輸出對話文本的意圖類別。??意圖類別??輸出層?｜??Ｓｏｆｔｍａｘ??－－Ｐ?—??Ｍａｘ?ｐｏｏｌｉｎｇ??卷積網(wǎng)絡(luò)層?丨－鬥一鬥鬥鬥’?＾門鬥＾丨??８８８８８８８８８８??１〇１?１〇１?１〇１?１〇１?｜〇｜?１〇１?１〇１?１〇１?１〇１?１〇｜??ＬＳＴＭ?｜?ＬＳＴＭ??？）?ＬＳＴＭ??－＊＼?Ｉ５ＴＭ??長短記憶層????????ＬＳＴＭ?卜——ＬＳＴＭ?，??ＬＳＴＭ?？??ＬＳＴＭ??＇?Ｉ??句向量Ｉ??輸入層?詞向量?｜詞向量｜?｜詞向量｜???｜詞量｜??分詞后句卞??圖２


本文編號：3356671