韻律結(jié)構(gòu)預(yù)測(cè)作為語音合成系統(tǒng)中的一個(gè)關(guān)鍵步驟,其結(jié)果直接影響合成語音的自然度和可懂度.本文提出了一種基于預(yù)訓(xùn)練語言表示模型的韻律結(jié)構(gòu)預(yù)測(cè)方法,以字為建模單位,在預(yù)訓(xùn)練語言模型的基礎(chǔ)上對(duì)每個(gè)韻律層級(jí)設(shè)置了獨(dú)立的輸出層,利用韻律標(biāo)注數(shù)據(jù)對(duì)預(yù)訓(xùn)練模型進(jìn)行微調(diào).另外在此基礎(chǔ)上額外增加了分詞任務(wù),通過多任務(wù)學(xué)習(xí)的方法對(duì)各韻律層級(jí)間的關(guān)系及韻律與詞間的關(guān)系建模,實(shí)現(xiàn)對(duì)輸入文本各級(jí)韻律邊界的同時(shí)預(yù)測(cè).實(shí)驗(yàn)首先證明了多輸出結(jié)構(gòu)設(shè)置的合理性及使用預(yù)訓(xùn)練模型的有效性,并驗(yàn)證了分詞任務(wù)的加入可以進(jìn)一步提升模型性能;將最優(yōu)的結(jié)果與設(shè)置的兩個(gè)基線模型相比,在韻律詞和韻律短語預(yù)測(cè)的F1值上與條件隨機(jī)場(chǎng)模型相比分別有2.48%和4.50%的絕對(duì)提升,而與雙向長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)相比分別有6.2%和5.4%的絕對(duì)提升;最后實(shí)驗(yàn)表明該方法可以在保證預(yù)測(cè)性能的同時(shí)減少對(duì)訓(xùn)練數(shù)據(jù)量的需求.

【文章頁數(shù)】：7 頁


本文編號(hào)：3809617