基于自適應(yīng)的LVCSR系統(tǒng)半監(jiān)督學(xué)習(xí)方法的研究.pdf

1、語音識別技術(shù)日趨成熟，但仍然存在一系列難題有待解決，尤其是大詞表連續(xù)語音識別(LVCSR)技術(shù)，在識別速度、識別正確率、系統(tǒng)頑健性等能力上還遠遠沒有達到盡善盡美。特別是在聲學(xué)模型的訓(xùn)練方面，最常用的手段就是使用人工標(biāo)注的數(shù)據(jù)來訓(xùn)練聲學(xué)模型，這樣的方法需要大量的標(biāo)注數(shù)據(jù)，而人工標(biāo)注這些數(shù)據(jù)需要耗費大量的金錢和時間；因此提出了一個新的半監(jiān)督學(xué)習(xí)方法—分階段半監(jiān)督學(xué)習(xí)，來訓(xùn)練聲學(xué)模型。
　　分階段半監(jiān)督學(xué)習(xí)僅需要小部分的人工標(biāo)注數(shù)據(jù)來初

2、始化聲學(xué)模型參數(shù)，然后加載模型去識別大量的未標(biāo)注數(shù)據(jù)；數(shù)據(jù)篩選策略對識別結(jié)果進行分析，然后合成最優(yōu)的結(jié)果作為標(biāo)注數(shù)據(jù)，重復(fù)進行訓(xùn)練。依據(jù)這種新的半監(jiān)督學(xué)習(xí)方法建立了自動標(biāo)注語料系統(tǒng)(ALCS)。
　　和一般的獲取標(biāo)注數(shù)據(jù)來訓(xùn)練聲學(xué)模型的方法相比，分階段半監(jiān)督學(xué)習(xí)有以下幾個優(yōu)勢：它僅僅選取一部分詞頻分布均勻和具有代表性的人工標(biāo)注數(shù)據(jù)來初始化模型參數(shù)，避免了繁重、枯燥的語料標(biāo)注工作；它構(gòu)建了一個自適應(yīng)的識別單元，能根據(jù)工作環(huán)境和待識別

3、的數(shù)據(jù)自發(fā)的調(diào)整模型的參數(shù)，所以系統(tǒng)有好的識別性能和適應(yīng)性；人工標(biāo)注數(shù)據(jù)一般僅能達到有調(diào)音節(jié)的層次，系統(tǒng)能夠自動標(biāo)注到音素級別，能夠滿足更高標(biāo)注精度的需求，實現(xiàn)了精細標(biāo)注；持續(xù)學(xué)習(xí)能力對于半監(jiān)督學(xué)習(xí)是至關(guān)重要的，只要系統(tǒng)能不斷地得到未標(biāo)注的數(shù)據(jù)，就能持續(xù)不斷地學(xué)習(xí)、標(biāo)注和訓(xùn)練模型，從而不斷地提升系統(tǒng)性能。
　　實驗結(jié)果證明，這種新的半監(jiān)督學(xué)習(xí)方法在自動標(biāo)注語料、訓(xùn)練模型方面有良好的表現(xiàn)，用這種半監(jiān)督學(xué)習(xí)方法訓(xùn)練出來的聲學(xué)模型來對測