基于神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別聲學(xué)模型壓縮研究.pdf

1、自動(dòng)語(yǔ)音識(shí)別是人機(jī)交互與通信的關(guān)鍵組成部分，其主要目的是使機(jī)器“聽(tīng)懂”人類(lèi)所說(shuō)的語(yǔ)音，將語(yǔ)音信號(hào)轉(zhuǎn)變?yōu)槲谋拘盘?hào)。聲學(xué)模型在語(yǔ)音識(shí)別系統(tǒng)中占據(jù)著重要地位。傳統(tǒng)的語(yǔ)音識(shí)別系統(tǒng)主要使用基于高斯混合模型和隱馬爾可夫模型(Hidden Markov Model，HMM)的聲學(xué)模型。近些年來(lái)，隨著深度學(xué)習(xí)的迅速發(fā)展，與傳統(tǒng)的高斯混合模型相比，基于深度神經(jīng)網(wǎng)絡(luò)(Deep Neural Networks，DNN)的聲學(xué)模型給性能提升帶來(lái)了突破性進(jìn)展。然

2、而，基于深度神經(jīng)網(wǎng)絡(luò)的聲學(xué)模型包含大量的模型參數(shù)以及顯著的計(jì)算復(fù)雜度，這給深度神經(jīng)網(wǎng)絡(luò)應(yīng)用于資源受限的移動(dòng)端設(shè)備造成了巨大的困難。因此，基于深度神經(jīng)網(wǎng)絡(luò)的聲學(xué)模型壓縮技術(shù)是為了降低模型的參數(shù)量與計(jì)算復(fù)雜度，從而促進(jìn)語(yǔ)音識(shí)別系統(tǒng)應(yīng)用于資源受限的移動(dòng)端設(shè)備。
　　本文是主要圍繞基于深度神經(jīng)網(wǎng)絡(luò)的聲學(xué)模型，進(jìn)行模型壓縮技術(shù)的研究。首先，從模型參數(shù)量角度，針對(duì)基于DNN和全卷積神經(jīng)網(wǎng)絡(luò)(Fully Convolutional Neural

3、 Networks，F(xiàn)CNN)的聲學(xué)模型，我們提出了基于激活掩碼的方法，在網(wǎng)絡(luò)訓(xùn)練過(guò)程中分析與評(píng)價(jià)網(wǎng)絡(luò)模型中神經(jīng)元的重要性，從而移除對(duì)網(wǎng)絡(luò)模型輸出貢獻(xiàn)較小的神經(jīng)元，實(shí)現(xiàn)每個(gè)隱層的神經(jīng)元數(shù)目的自動(dòng)學(xué)習(xí)和減少網(wǎng)絡(luò)模型參數(shù)量?；陂L(zhǎng)短時(shí)記憶(Long Short-Term Memory，LSTM)的遞歸神經(jīng)網(wǎng)絡(luò)聲學(xué)模型，我們提出了平滑門(mén)來(lái)分析與評(píng)價(jià)LSTM模型中記憶單元的重要性，移除對(duì)網(wǎng)絡(luò)輸出影響較小的記憶單元，從而達(dá)到壓縮網(wǎng)絡(luò)模型規(guī)模的目的

4、。實(shí)驗(yàn)結(jié)果表明在確保語(yǔ)音識(shí)別性能的基礎(chǔ)上，這兩種方法可以有效地壓縮網(wǎng)絡(luò)模型的寬度。其次，從模型參數(shù)精確度角度，基于DNN和LSTM的聲學(xué)模型，本文分別探索了參數(shù)定點(diǎn)化和整數(shù)化對(duì)語(yǔ)音識(shí)別系統(tǒng)性能的影響，實(shí)驗(yàn)結(jié)果表明定點(diǎn)數(shù)和整數(shù)可以有效地降低神經(jīng)網(wǎng)絡(luò)模型的參數(shù)精確度和復(fù)雜度，而且沒(méi)有造成識(shí)別性能損失。最后，基于連接時(shí)序分類(lèi)(Connectionist Temporal Classification，CTC)模型的解碼速度優(yōu)勢(shì)，采用基于平滑門(mén)