基于卷積神經(jīng)網(wǎng)絡(luò)的語種識別方法研究.pdf

1、語種識別技術(shù)是利用自動化方法對語音內(nèi)容所屬語言種類的判決過程。語種識別技術(shù)作為智能語音處理中包括自動語音識別、聲紋識別及自然語言處理中重要的前端處理過程，在近十年有了長足的發(fā)展。到目前為止，基于深瓶頸特征的全差異空間建模是國際主流語種識別方法，并取得了目前公認(rèn)最好的識別性能。該方法使用基于深度神經(jīng)網(wǎng)絡(luò)的聲學(xué)模型，提取能夠描述音素狀態(tài)的深瓶頸特征并建立相應(yīng)的高斯混合模型，但這些信息并不直接面向語種區(qū)分性信息進(jìn)行建模;并且由于全差異空間建模

2、是生成式的學(xué)習(xí)方法，在訓(xùn)練過程中并沒有用到語種標(biāo)號的信息，而忽略了不同語種類別之間的分類面，因此該系統(tǒng)在信息量不足的短時語音上性能有較大幅度的衰減。
　　近幾年，也有學(xué)者利用端對端網(wǎng)絡(luò)的方法搭建了語種識別系統(tǒng)。這類網(wǎng)絡(luò)摒棄了傳統(tǒng)的全差異空間建模方法，輸入底層聲學(xué)特征，輸出語種標(biāo)號。從簡單的深度神經(jīng)網(wǎng)絡(luò)到近幾年流行的長短時記憶-循環(huán)神經(jīng)網(wǎng)絡(luò)再到最新的基于注意力機(jī)制的網(wǎng)絡(luò)結(jié)構(gòu)都有涉獵。大多數(shù)網(wǎng)絡(luò)的性能差強(qiáng)人意，但仍然難以在性能上與基線

3、系統(tǒng)形成優(yōu)勢。本文圍繞基于端對端神經(jīng)網(wǎng)絡(luò)的策略提出了一些語種識別方法，并做了相應(yīng)的分析，具體研究內(nèi)容包括以下幾點(diǎn)。
　　首先，本文實(shí)現(xiàn)了端對端網(wǎng)絡(luò)的語種識別方法，稱為LID-net。LID-net首先利用深度神經(jīng)網(wǎng)絡(luò)在幀級特征上的優(yōu)秀建模能力提取帶有語種區(qū)分性信息的特征;然后利用卷積神經(jīng)網(wǎng)絡(luò)的卷積層提取具有語種區(qū)分性的基本單元，稱為LID-senone，這是仿照語音識別中對三音子狀態(tài)的定義;再利用卷積神經(jīng)網(wǎng)絡(luò)的池化層提取語音的段級

4、表達(dá);最后使用全連接層對語音段表示進(jìn)行分類操作。實(shí)驗(yàn)表明，該網(wǎng)絡(luò)在不同時長的不同指標(biāo)中相比國際主流方法均有提升，尤其在短時及中短時語音上的識別性能上有較大幅度提升。
　　其次，本文進(jìn)行了基于LID-net的語種識別建模方法的研究，旨在利用語種區(qū)分性基本單元LID-senone進(jìn)行高階統(tǒng)計(jì)量信息建模。本文實(shí)現(xiàn)了兩種建模方法，一種是基于LID-net的全差異空間建模，另一種是基于LID-net的FisherVector建模，兩種建模方