改進(jìn)的自然梯度算法及在語音和圖像處理中的應(yīng)用.pdf

1、自然梯度算法是盲源信號處理領(lǐng)域一種常見的算法，特別是在盲源信號的分離和獨(dú)立分量分析中，其作為核心的算法之一，受到越來越多的關(guān)注。同時(shí)由于自然梯度算法計(jì)算量低、收斂速度快、分離效果好等優(yōu)點(diǎn)，凸顯出其良好的應(yīng)用前景，并已在多方面有了廣泛的應(yīng)用。
　　 本文圍繞傳統(tǒng)的自然梯度算法存在的不足以及在語音和圖像方面的應(yīng)用方面而展開，做了以下工作：
　　 本文對于自然梯度算法在盲源信號分離中的應(yīng)用進(jìn)行了總結(jié)和分析，并對其相關(guān)理論進(jìn)行了

2、闡述，重點(diǎn)對固定步長自然梯度算法、變步長的自然梯度等算法進(jìn)行了分析和比較。其都存在一些缺陷：固定步長自然梯度算法對于步長的要求很高，其直接影響到收斂速度和穩(wěn)定性；變步長的自然梯度算法其步長變化還不能根據(jù)需求進(jìn)行變化，雖能改進(jìn)部分性能，但對于復(fù)雜條件下和在應(yīng)用過程中，其收斂速度和分離效果不夠理想。
　　 本文介紹了與自然梯度算法相關(guān)的信息論和高階統(tǒng)計(jì)方面的基礎(chǔ)知識(shí)以及在盲源分離和獨(dú)立分量分析中幾種判據(jù)和算法，重點(diǎn)討論了互信息極小(

3、MMI)，信息極大(Infomax)以及最大似然估計(jì)(MLE)等三種最常用的算法的基本原理。分析了自然梯度算法的原理和步驟，介紹了神經(jīng)網(wǎng)絡(luò)中的動(dòng)量因子以及表征信號分離程度的分離度的概念，將其引入到自然梯度算法中，在變步長的自然梯度算法的基礎(chǔ)上，對算法進(jìn)行了改進(jìn)。算法以分離度為基準(zhǔn)，通過動(dòng)量因子的自適應(yīng)變化來自適應(yīng)改變步長，從而能夠更好的改進(jìn)盲源分離后信號的性能。以一組線性瞬時(shí)混合信號為例，成功實(shí)現(xiàn)了盲分離，并且經(jīng)過對改進(jìn)之前算法的對比，