基于條件隨機場模型的半監(jiān)督漢語韻律短語預(yù)測的研究與實現(xiàn).pdf

1、隨著當今社會的快速發(fā)展,語音合成技術(shù)已經(jīng)滲透到了社會生活中的各個方面。為了使合成語音的自然度能夠進一步提高,本文研究了在語音合成技術(shù)中占據(jù)重要地位的韻律結(jié)構(gòu)預(yù)測問題。
　　 在漢語韻律結(jié)構(gòu)的研究中的一大難點是對漢語韻律短語的預(yù)測問題。本文在綜合考察了目前應(yīng)用在漢語韻律短語預(yù)測任務(wù)中的幾種機器學習方法后,提出了一種基于條件隨機場模型的漢語韻律短語邊界預(yù)測方法；同時,為了減少標注訓(xùn)練語料庫所需要的大量時間和人力,本文引入了一種應(yīng)用于

2、條件隨機場模型的半監(jiān)督學習方法,并實現(xiàn)了一個全自動的漢語韻律短語邊界預(yù)測的原型系統(tǒng)。
　　 當前,在漢語韻律短語邊界的預(yù)測任務(wù)中,使用最廣泛的是隱馬爾科夫模型和最大熵馬爾科夫模型。本文采用的條件隨機場模型(Conditional RandomFields,CRFs)結(jié)合了隱馬爾科夫模型和最大熵馬爾科夫模型的優(yōu)點,同時CRFs還可以克服隱馬爾科夫模型中的嚴格獨立假設(shè)以及最大熵馬爾科夫模型中的標注偏置問題。目前,CRFs已被應(yīng)用于一

3、些自然語言處理任務(wù)中,如:詞性標注、中文命名體識別等。本文對條件隨機場模型和最大熵馬爾科夫模型進行了實驗比較,得出的結(jié)論是,在使用相同特征模板的情況下,條件隨機場模型更適合于漢語韻律短語邊界的預(yù)測。
　　 傳統(tǒng)的機器學習方法都是在大規(guī)模訓(xùn)練數(shù)據(jù)集的基礎(chǔ)上進行訓(xùn)練的,而對訓(xùn)練集進行人工標注需要花費大量的時間以及人力,目前可直接使用于漢語語音合成中的資源又非常有限。因此,本文基于半監(jiān)督學習的思想,引入了一種可以應(yīng)用于條件隨機場模型的

4、半監(jiān)督學習方法,將該方法應(yīng)用于漢語韻律短語邊界的預(yù)測任務(wù)中,并且最終實現(xiàn)了一個全自動的漢語韻律短語邊界預(yù)測系統(tǒng)原型。本系統(tǒng)可使用少量的已標注數(shù)據(jù)和大量的未標注數(shù)據(jù)進行訓(xùn)練,首先對已標注數(shù)據(jù)進行訓(xùn)練,利用訓(xùn)練所得的模型對未標注數(shù)據(jù)進行預(yù)測,從預(yù)測結(jié)果中挑選出一部分有效數(shù)據(jù)加入訓(xùn)練集,然后進行下一輪訓(xùn)練,如此不斷迭代下去,直到最終訓(xùn)練出用戶滿意的模型。多組實驗表明應(yīng)用該方法可以有效提高模型在同等規(guī)模訓(xùn)練集上訓(xùn)練得到的預(yù)測準確率,從而達到在大