為了解決漁業(yè)標(biāo)準(zhǔn)文本中專有命名實(shí)體具有上下文敏感性、長(zhǎng)序列存在語義稀釋等問題,提出了基于E-BIO標(biāo)注法和融合注意力機(jī)制的BiLSTM+CRF (BiLSTM+Attention+CRF)命名實(shí)體識(shí)別模型,E-BIO標(biāo)注法引入漁業(yè)標(biāo)準(zhǔn)文本中的結(jié)構(gòu)化信息,可以使模型有效學(xué)習(xí)上下文結(jié)構(gòu)特征,而注意力機(jī)制輸出不斷變化的語義向量,可有效解決長(zhǎng)序列語義稀釋問題。為驗(yàn)證所提出方法的有效性,在采用E-BIO方法標(biāo)注的語料上進(jìn)行對(duì)比試驗(yàn),結(jié)果顯示,BiLSTM+Attention+CRF模型對(duì)不同類別的漁業(yè)標(biāo)準(zhǔn)命名實(shí)體識(shí)別的準(zhǔn)確率均能達(dá)到90%以上,召回率均能達(dá)到85%以上。研究表明,本研究中提出的BiLSTM+Attention+CRF命名實(shí)體識(shí)別模型可以有效利用上下文結(jié)構(gòu)特征,避免了語義稀釋問題,對(duì)于漁業(yè)標(biāo)準(zhǔn)命名實(shí)體識(shí)別具有較好的識(shí)別性能。

【文章頁(yè)數(shù)】：6 頁(yè)

【部分圖文】：

圖2BiLSTM模型框架

由于LSTM只能編碼正向時(shí)序的信息,導(dǎo)致當(dāng)前時(shí)刻的詞語在LSTM網(wǎng)絡(luò)下文權(quán)重大于上文權(quán)重的問題。BiLSTM網(wǎng)絡(luò)將句子正向輸入得到的序列和反向輸入得到的序列拼接起來。正向序列即從句子的左邊第一個(gè)詞向后遍歷,反向序列即從最后一個(gè)詞向前遍歷,并將兩個(gè)序列拼接起來,得到BiLSTM的隱....

圖3漁業(yè)標(biāo)準(zhǔn)號(hào)實(shí)例

(1)漁業(yè)標(biāo)準(zhǔn)號(hào)。漁業(yè)標(biāo)準(zhǔn)號(hào)是漁業(yè)標(biāo)準(zhǔn)的唯一標(biāo)識(shí),由“字母段”和“數(shù)字段”兩部分構(gòu)成。通常出現(xiàn)在漁業(yè)標(biāo)準(zhǔn)“規(guī)范性引用文件”和標(biāo)準(zhǔn)指標(biāo)描述部分,如“GB11607”、“GB/T5099.44-2003”“NY5288-2006”、“SC2056”、“SC/T3210-2....

圖4漁業(yè)指標(biāo)實(shí)例

(2)漁業(yè)標(biāo)準(zhǔn)指標(biāo)。漁業(yè)標(biāo)準(zhǔn)定義漁業(yè)生產(chǎn)中需要規(guī)范化操作的項(xiàng)目名稱,如“育苗設(shè)施”、“原料處理與裝籠”、“凍品外觀檢驗(yàn)”、“魚片”、“黑膜”等(圖4)。2.1.2漁業(yè)標(biāo)準(zhǔn)實(shí)體標(biāo)注方法

圖1漁業(yè)標(biāo)準(zhǔn)命名實(shí)體識(shí)別總體框架

針對(duì)漁業(yè)標(biāo)準(zhǔn)命名實(shí)體識(shí)別中上下文向量權(quán)重不均、長(zhǎng)序列前端語義稀釋等問題,結(jié)合注意力機(jī)制提出了BiLSTM+Attention+CRF漁業(yè)標(biāo)準(zhǔn)命名實(shí)體模型,總體框架如圖1所示。模型由CharEmbedding層、BiLSTM編碼器、Attention層和CRF解碼器4部分組成。....

本文編號(hào)：3915792