基于Kinect深度數(shù)據(jù)輔助的機(jī)器人帶噪語(yǔ)音識(shí)別.pdf

1、隨著人機(jī)交互技術(shù)的發(fā)展，機(jī)器人越來(lái)越被期望擁有像人類一樣的感知能力，并能夠和人類合作共事。為了使人機(jī)交互更加自然，運(yùn)動(dòng)狀態(tài)下的機(jī)器人能夠語(yǔ)音識(shí)別是很有必要的。但是運(yùn)動(dòng)狀態(tài)下的機(jī)器人不可避免的產(chǎn)生一些噪聲，這種噪聲主要由機(jī)器人的風(fēng)扇和馬達(dá)產(chǎn)生，稱為自身噪聲。相對(duì)于環(huán)境噪聲，自身噪聲更容易被獲取，而且具有非平穩(wěn)性和非定向性等特點(diǎn)，這將大大降低機(jī)器人語(yǔ)音識(shí)別效果。
　　通常有兩種方法來(lái)提升機(jī)器人自身噪聲下的語(yǔ)音識(shí)別效果。第一種是采用語(yǔ)音

2、抗噪技術(shù)，第二種是建立音視頻雙模態(tài)語(yǔ)音識(shí)別系統(tǒng)。然而第一種方法適合聲源定向以及穩(wěn)定的噪聲，而機(jī)器人噪聲具有非定向性和非平穩(wěn)性。第二種方法中，由于受說(shuō)話者頭部旋轉(zhuǎn)、唇部尺寸不一、距攝像頭距離不固定以及光照等因素影響，使得唇部信息不能得到有效的全面表征。
　　為此，論文提出了融合機(jī)器人與Kinect的多模態(tài)語(yǔ)音識(shí)別系統(tǒng)。通過(guò)Kinect獲取3D數(shù)據(jù)和視覺(jué)信息，并通過(guò)3D數(shù)據(jù)重構(gòu)側(cè)唇，將其作為一種輔助言語(yǔ)信息來(lái)補(bǔ)充音視頻信息。論文首先建

3、立了一個(gè)基于機(jī)器人平臺(tái)的中文孤立詞多模態(tài)語(yǔ)音數(shù)據(jù)庫(kù)，包含深度數(shù)據(jù)，音頻數(shù)據(jù)和視頻數(shù)據(jù);其次利用Kinect獲取的3D數(shù)據(jù)與彩色圖像之間的對(duì)應(yīng)關(guān)系獲取視頻信息唇區(qū)，并通過(guò)DCT和PCA獲取特征向量，采用線性插值法匹配音視頻及3D數(shù)據(jù)的速率，歸一化操作使特征更加魯棒，以及基于幀間距離獲取動(dòng)態(tài)特征;然后通過(guò)Kinect獲取的3D特征點(diǎn)重構(gòu)說(shuō)話者左側(cè)唇和右側(cè)唇;最后，將側(cè)唇作為一種輔助言語(yǔ)信息和音視頻信息融合，通過(guò)一系列基于特征融合和決策融合方