在如今數(shù)據(jù)爆炸的時代,數(shù)據(jù)、信息與知識等概念已經(jīng)關(guān)系到每個人與各個行業(yè)。但是現(xiàn)有經(jīng)驗告訴我們,任何形式的原始數(shù)據(jù)只能傳達出很少的信息,除非使用一些智能的方法處理數(shù)據(jù)。對于最常見的文本數(shù)據(jù)而言,知道文本中最重要的關(guān)鍵詞/短語可以提供濃縮的概念表示從而簡化文檔處理。文章的關(guān)鍵詞對文章內(nèi)容提供了高層次的描述,它總結(jié)了關(guān)鍵的主題,概念,想法或者文章的推斷。這些描述性的關(guān)鍵短語使得其他相關(guān)算法可以快速有效地提取相關(guān)內(nèi)容。因此關(guān)鍵詞在很多文檔處理領(lǐng)域扮演重要角色比如文檔索引、分類、聚類還有摘要任務(wù)。然而,大多數(shù)文檔缺乏作者提供的關(guān)鍵詞并且人為地給大量文本標(biāo)注關(guān)鍵詞并不可行,這是因為手動地為大規(guī)模文檔決定重要短語的集合是繁雜的,代價巨大的而且需要額外的專家知識。幸運的是,自然語言處理技術(shù)可以幫助從文檔中自動提取關(guān)鍵詞。目前,大多數(shù)關(guān)鍵詞提取的方法主要依賴于手工選擇的特征,比如關(guān)鍵詞出現(xiàn)的頻率和相對位置。這導(dǎo)致了相關(guān)方法依賴特定領(lǐng)域數(shù)據(jù),在面對其他領(lǐng)域不同長度、不同語義模式和不同規(guī)則的文檔時,它們通常需要做出針對性的修改,這也使得自動關(guān)鍵詞提取方法的發(fā)展變得耗費時間和人力。在這些方法中,有監(jiān)督的關(guān)鍵詞... 

【文章來源】：中國科學(xué)技術(shù)大學(xué)安徽省 211工程院校 985工程院校

【文章頁數(shù)】：70 頁

【學(xué)位級別】：碩士

【部分圖文】：

圖１．２?—篇文檔和對應(yīng)的關(guān)鍵詞??

或多個??關(guān)鍵短語，而關(guān)鍵短語可以由一個或多個單詞組成。??然后，關(guān)鍵詞提取問題被形式化定義成一個序列標(biāo)注任務(wù)［１８］。給定一個文??檔的詞序列表示為ｘ?＝?（ｍ２，．．．，：ｒ？），序列標(biāo)注旨在預(yù)測文檔輸入ｘ的標(biāo)簽序列??ｙ?＝（仍，ｊ／２，?．．．，糾）。對于文本序列中的第ｉ個詞而，它的標(biāo)簽講ｅ?｛Ｓ，?ｓ，?Ａｆ，盡〇｝??分別對應(yīng)表示這個詞屬于單個詞組成的關(guān)鍵短語，所組成的關(guān)鍵短語的開始，所??組成的關(guān)鍵短語的中間部分，所組成的關(guān)鍵短語的結(jié)尾以及不屬于任何一個關(guān)??鍵短語。圖３．１展示了一個用序列標(biāo)注方法進行關(guān)鍵詞提取的例子。其中ｔｅｓｔ??Ｌａｂｅｌ?Ｓｅｑｕｅｎｃｅ：?Ｏ?Ｂ?Ｅ；?Ｏ?０?０??Ｔｅｘｔ?Ｓｅｑｕｅｎｃｅ：?ｅｆｆｅｃｔｉｖｅｊｔｅｓｔ?ｇｅｎｅｒａｔｉｏｎ?ａｎｄ?ａｄｅｑｕａｃｙ?ａｓｓｅｓｓｍｅｎｔ??Ｌａｂｅｌ?Ｓｅｑｕｅｎｃｅ：?Ｏ?丨、緩Ｏ?Ｏ?０?．．．??Ｔｅｘｔ?Ｓｅｑｕｅｎｃｅ：?ｆｏｒ擇ｖａｓｃｒｊ誦?ｂａｓｅｄ?ｗｅｂ?ａｐｐｌｉｃａｔｉｏｎｓ?．．．??圖３．１使用序列標(biāo)注方法進行關(guān)鍵詞提取的一個實例。??２７??

?第３章基于主題的對抗神經(jīng)網(wǎng)絡(luò)方法????，扣享的基于主題的編碼器???、??源＝標(biāo)簽｜?，?（Ｓ蠢，｜￣４有監(jiān)督損失函數(shù)??＞?＾ｓ？?■－？?３產(chǎn)二?ｉ?＾抗損失函數(shù)：??目標(biāo)領(lǐng)域無標(biāo)：＿＿Ｉ；?￣ｆ標(biāo)領(lǐng)域基??簽數(shù)據(jù)?：?＼±？６＜ｊ＊ｓｒｊ???—?｛■｛重建損失函數(shù)］??分布＾—??圖３．２基于主題的對抗神經(jīng)網(wǎng)絡(luò)框架。??ｇｅｎｅｒａｔｉｏｎ是該文本序列的一個關(guān)鍵短語，其對應(yīng)的標(biāo)簽序列是ＢＥ，另外一個??關(guān)鍵短語是由單個詞ｊａｖａｓｃｒｉｐｔ組成，對應(yīng)的標(biāo)簽序列是Ｓ。因此，基于以上描??述的序列標(biāo)注方法，我們可以對給定的文本得到相應(yīng)的標(biāo)簽序列，進而由標(biāo)簽序??列確定最終的關(guān)鍵短語。??３．３基于主題的對抗神經(jīng)網(wǎng)絡(luò)方法??針對３．２節(jié)提出的問題，本文提出了基于主題的對抗神經(jīng)網(wǎng)絡(luò)方法ＴＡＮＮ??（Ｔｏｐｉｃ－ｂａｓｅｄ?Ａｄｖｅｒｓａｒｉａｌ?Ｎｅｕｒａｌ?Ｎｅｔｗｏｒｋ）。本小節(jié)首先介紹?ＴＡＮＮ?的整體框架然??后詳細介紹ＴＡＮＮ框架的各個組成部分。３．３．１節(jié)介紹ＴＡＮＮ中的基于主題的編??碼器，３．３．２節(jié)介紹ＴＡＮＮ中的領(lǐng)域判別器組成部分，３．３．３節(jié)介紹ＴＡＮＮ中的目??標(biāo)領(lǐng)域雙向解碼器模塊，關(guān)鍵詞標(biāo)注器則在３＿３＿４節(jié)介紹。最后３．３．５介紹整個模型??的訓(xùn)練算法。針對跨領(lǐng)域關(guān)鍵詞提取問題中目標(biāo)領(lǐng)域無有標(biāo)簽樣本的問題，本文??提出了基于主題的對抗神經(jīng)網(wǎng)絡(luò)ＴＡＮＮ框架。圖３．２對該框架進行了展示，從圖??中可以看出ＴＡＮＮ框架主要包括：??？基于主題的編碼器：對輸人的文本序列進行編碼并在編碼表示中引人文檔??的主題信息。??？領(lǐng)域判別器：區(qū)分學(xué)習(xí)到的表示是


本文編號：3276930