基于編碼器—解碼器的聯(lián)機(jī)手寫(xiě)數(shù)學(xué)公式識(shí)別方法研究
【學(xué)位授予單位】:華中師范大學(xué)
【學(xué)位級(jí)別】:碩士
【學(xué)位授予年份】:2019
【分類(lèi)號(hào)】:TP18;TP391.41
【圖文】:
輸出層的更新是需要先計(jì)算兩個(gè)隱藏層的兩個(gè)方向的所有輸入,而且所逡逑有的輸出層都會(huì)優(yōu)先計(jì)算S項(xiàng),等計(jì)算之后將其返回給隱含層(不同方向),其前逡逑向訓(xùn)練算法和反向訓(xùn)練算法如下圖2.9所示。逡逑21逡逑I逡逑
逡逑圖2.9邋BLSTM的前向和反向傳遞算法逡逑2.3注意力機(jī)制逡逑注意力機(jī)制最近幾年在深度學(xué)習(xí)的各個(gè)領(lǐng)域被廣泛使用,它主要是與編碼器逡逑一解碼器模型相結(jié)合被用于圖像識(shí)別、語(yǔ)音識(shí)別167]、機(jī)器翻譯和字符逡逑識(shí)別[69,70】等其他研究領(lǐng)域,并且該組合模型在數(shù)學(xué)公式識(shí)別領(lǐng)域也有著一定的應(yīng)用逡逑【71-74^深度學(xué)習(xí)中的注意力機(jī)制從本質(zhì)上講和人類(lèi)的選擇性視覺(jué)注意力機(jī)制(即人類(lèi)逡逑的視覺(jué)是通過(guò)大概范圍的全局掃描,獲取需要重點(diǎn)關(guān)注的區(qū)域,然后將注意力集中逡逑在該區(qū)域,從該目標(biāo)區(qū)域獲取到更加重要的細(xì)節(jié)信息,從而減少對(duì)其他區(qū)域的細(xì)節(jié)逡逑觀察,也就是抑制了其他的無(wú)用信息)類(lèi)似,它的核心目標(biāo)也是從眾多信息中選擇逡逑出對(duì)當(dāng)前任務(wù)目標(biāo)更關(guān)鍵的信息。逡逑2.3.1編碼§1-解碼器框架逡逑對(duì)于理解注意力機(jī)制,就必須先得了解編碼器一解碼器框架,因?yàn)槟壳八岬藉义系淖⒁饬C(jī)制大都是與一種編碼器一解碼器的框架相結(jié)合。其中編碼器一解碼器就逡逑22逡逑
包括文字、圖像、視頻、公式數(shù)據(jù)等等,輸入輸出模型可以選擇常見(jiàn)的諸逡逑如CNN、RNN、BiRNN、LSTM、GRU等深度學(xué)習(xí)模型,其一種較為抽象的框架逡逑表示見(jiàn)下圖2.10所示。逡逑Y1邋Y2邐Y3逡逑編碼器邐——^定長(zhǎng)編碼向量c1——^邐解碼器逡逑邐邐I逡逑{&邋WWW逡逑圖2.10抽象的編碼器一解碼器框架逡逑對(duì)于編碼器一解碼器框架應(yīng)用與文本處理領(lǐng)域,則可以將其看作是把一個(gè)句子逡逑變成另一種意思相同但表達(dá)形式不同的處理模型。對(duì)于一個(gè)句子對(duì)<x,y>,首先逡逑給定一個(gè)句子的輸入序列X,我們希望通過(guò)該模型得到一個(gè)生成目標(biāo)Y,而且X和逡逑Y分別是由各自不同的單詞序列構(gòu)成:逡逑X邋=邋(w",xm)逡逑丫邋=(少1,少2,-”,凡)逡逑編碼器端就是對(duì)輸入的句子序列X進(jìn)行編碼,將該輸入序列用所選模型/進(jìn)行逡逑轉(zhuǎn)化,變成一個(gè)固定長(zhǎng)度的中間語(yǔ)義表達(dá)式向量C,其中逡逑C邋=邋/邋(xl
【相似文獻(xiàn)】
相關(guān)期刊論文 前10條
1 ;《液壓與氣動(dòng)》數(shù)學(xué)公式要求[J];液壓與氣動(dòng);2019年11期
2 謝遷爾;沈堅(jiān)決;;基于數(shù)學(xué)公式有效教學(xué)模式的探究[J];讀與寫(xiě)(教育教學(xué)刊);2018年04期
3 丁益民;;關(guān)于數(shù)學(xué)公式教學(xué)的幾點(diǎn)思考[J];中學(xué)數(shù)學(xué);2011年01期
4 曉天;;亦如幻想中美好[J];汽車(chē)知識(shí);2016年12期
5 邱小歡;;初中數(shù)學(xué)列方程解應(yīng)用題的思路研究[J];理科考試研究;2016年24期
6 付一凡;;我在窗前等陽(yáng)光[J];少男少女;2016年27期
7 李繼剛;;一題多變激活學(xué)生思維[J];山東教育;2016年34期
8 Jonathan Borwein;;π與最美的數(shù)學(xué)公式[J];語(yǔ)數(shù)外學(xué)習(xí)(高中版中旬);2016年07期
9 佚名;;最后一張牌[J];數(shù)學(xué)大王(中高年級(jí));2017年03期
10 吳子生;;基于數(shù)學(xué)素養(yǎng)視角下的高中數(shù)學(xué)公式教學(xué)策略實(shí)證研究[J];數(shù)理化解題研究;2017年06期
相關(guān)會(huì)議論文 前10條
1 靳簡(jiǎn)明;江紅英;;印刷體數(shù)學(xué)公式處理研究現(xiàn)狀[A];2001年中國(guó)智能自動(dòng)化會(huì)議論文集(上冊(cè))[C];2001年
2 駱瑾;王昕;王有登;;數(shù)學(xué)公式審讀的比較分析方法[A];中國(guó)編輯研究(2013)[C];2015年
3 肖敏;黃磊;劉迎建;;數(shù)學(xué)公式識(shí)別系統(tǒng)[A];第八屆全國(guó)漢字識(shí)別學(xué)術(shù)會(huì)議論文集[C];2002年
4 那琴;曾正華;李新紅;張艷晶;陳琦;;數(shù)學(xué)教學(xué)中培養(yǎng)學(xué)生靈活運(yùn)用函數(shù)公式的研究[A];《教師教育能力建設(shè)研究》科研成果匯編(第七卷)[C];2018年
5 王慶林;周東華;劉文;;Croos下垂問(wèn)題的數(shù)學(xué)模型及驗(yàn)證[A];1996中國(guó)控制與決策學(xué)術(shù)年會(huì)論文集[C];1996年
6 盧達(dá);浦煒;謝銘培;;一種實(shí)時(shí)手寫(xiě)數(shù)學(xué)公式識(shí)別系統(tǒng)[A];2005全國(guó)自動(dòng)化新技術(shù)學(xué)術(shù)交流會(huì)論文集(三)[C];2005年
7 劉譯蔓;;正確理解公式和定理對(duì)數(shù)學(xué)學(xué)習(xí)非常重要[A];2016年第一屆今日財(cái)富論壇論文集[C];2016年
8 蔡川;蘇偉;李冠宇;趙燕娟;李廉;;MathML編輯及顯示技術(shù)研究[A];2006年全國(guó)理論計(jì)算機(jī)科學(xué)學(xué)術(shù)年會(huì)論文集[C];2006年
9 尤勇;;創(chuàng)作角色的過(guò)程[A];電影表演創(chuàng)新集——第九屆“電影表演藝術(shù)學(xué)會(huì)獎(jiǎng)”文集[C];2003年
10 劉世釗;;創(chuàng)新虛擬造型——“數(shù)學(xué)編織”和“數(shù)學(xué)根雕”[A];中國(guó)計(jì)算機(jī)圖形學(xué)進(jìn)展2008--第七屆中國(guó)計(jì)算機(jī)圖形學(xué)大會(huì)論文集[C];2008年
相關(guān)重要報(bào)紙文章 前10條
1 四川省資中縣球溪高級(jí)中學(xué) 蔣禮衛(wèi);類(lèi)比教學(xué)在數(shù)學(xué)公式中的應(yīng)用[N];學(xué)知報(bào);2011年
2 本報(bào)記者 羅暉 實(shí)習(xí)生 司建楠 佘超龍;螞蟻改變了他的性格[N];科技日?qǐng)?bào);2004年
3 山東 呂立霞;一步一步學(xué)數(shù)學(xué)公式的輸入[N];電腦報(bào);2005年
4 記者 周賢忠;用“數(shù)學(xué)公式”判決刑事案[N];沈陽(yáng)日?qǐng)?bào);2011年
5 河北 周曉新;在Word中輸入數(shù)學(xué)公式[N];電腦報(bào);2002年
6 楊建鄴;數(shù)學(xué)公式還會(huì)嚇跑人嗎?[N];中國(guó)圖書(shū)商報(bào);2006年
7 記者 李廣軍 通訊員 文軍 力夫;“數(shù)學(xué)公式”規(guī)范量刑[N];長(zhǎng)沙晚報(bào);2010年
8 作者 安德烈·波斯特倫尼庫(kù)(Andrei Postelnicu);用數(shù)學(xué)公式炒股[N];國(guó)際金融報(bào);2005年
9 許中銀;編輯數(shù)學(xué)試卷的 小技巧[N];中國(guó)電腦教育報(bào);2004年
10 張清;數(shù)學(xué)公式輸入不求人[N];中國(guó)電腦教育報(bào);2002年
相關(guān)博士學(xué)位論文 前2條
1 李峰;英文科技文檔中數(shù)學(xué)公式的定位、識(shí)別與重建[D];大連理工大學(xué);2007年
2 蘇偉;基于Web的數(shù)學(xué)公式輸入及可訪問(wèn)性關(guān)鍵問(wèn)題研究[D];蘭州大學(xué);2010年
相關(guān)碩士學(xué)位論文 前10條
1 楊明雄;基于Faster-Rcnn的離線數(shù)學(xué)公式識(shí)別切割技術(shù)的研究與實(shí)現(xiàn)[D];電子科技大學(xué);2019年
2 張文君;基于編碼器—解碼器的聯(lián)機(jī)手寫(xiě)數(shù)學(xué)公式識(shí)別方法研究[D];華中師范大學(xué);2019年
3 周瑤;印刷體數(shù)學(xué)公式識(shí)別算法應(yīng)用研究與系統(tǒng)研發(fā)[D];華南理工大學(xué);2019年
4 雷光巧;初二學(xué)生對(duì)數(shù)學(xué)公式理解與應(yīng)用能力的調(diào)查研究[D];天水師范學(xué)院;2019年
5 張薇;數(shù)學(xué)公式微課優(yōu)化設(shè)計(jì)的策略及應(yīng)用研究[D];廣西師范大學(xué);2018年
6 梁木華;從高中生學(xué)習(xí)數(shù)學(xué)公式角度研究數(shù)學(xué)核心素養(yǎng)[D];閩南師范大學(xué);2018年
7 褚雅儒;數(shù)學(xué)公式語(yǔ)音規(guī)范MathAL及其與MathML智能化轉(zhuǎn)換研究[D];蘭州大學(xué);2012年
8 李輝;面向Word的數(shù)學(xué)公式到中國(guó)盲文轉(zhuǎn)換研究[D];蘭州大學(xué);2015年
9 王奕松;基于LSTM模型的數(shù)學(xué)公式手寫(xiě)體識(shí)別技術(shù)的研究與實(shí)現(xiàn)[D];電子科技大學(xué);2018年
10 魏琦;基于深度學(xué)習(xí)的印刷體文檔中數(shù)學(xué)公式的檢測(cè)[D];西安郵電大學(xué);2018年
本文編號(hào):2765569
本文鏈接:http://www.sikaile.net/kejilunwen/zidonghuakongzhilunwen/2765569.html