HMM基本原理及其在聚類中的應(yīng)用.pdf

1、隱馬爾可夫模型(Hiddell Markov Model)是一種雙隨機(jī)過(guò)程，被廣泛地應(yīng)用于模式識(shí)別和聚類中并取得了不小的成功。HMM有堅(jiān)實(shí)的統(tǒng)計(jì)學(xué)基礎(chǔ)和有效的學(xué)習(xí)算法，從而在應(yīng)用科學(xué)中成為一種基礎(chǔ)及易于理解的工具。 在實(shí)際應(yīng)用中，對(duì)HMM的訓(xùn)練是一個(gè)十分重要的問(wèn)題，特別是在面對(duì)非完整數(shù)據(jù)的情況下。訓(xùn)練的優(yōu)劣關(guān)系到最后聚類效果的好壞。 對(duì)HMM的訓(xùn)練就是不斷地調(diào)整HMM的參數(shù)，在已知的觀測(cè)值序列下，得到最大的似然度。而由于

2、該問(wèn)題的復(fù)雜性，現(xiàn)在還沒(méi)有高效的，全面的，能得到全局最優(yōu)化的程序。 在訓(xùn)練過(guò)程中，用得最多的是Baum-Welch算法。這是一種處理不完全數(shù)據(jù)的算法。我們關(guān)注的就是如何改進(jìn)該算法，以此來(lái)提高聚類的效果。主要研究工作如下： 1．提出了一種基于頻率敏感和HMM的聚類算法。它能有效得避免出現(xiàn)空類或類中數(shù)據(jù)過(guò)少的現(xiàn)象。實(shí)驗(yàn)結(jié)果證明了該算法的有效性。 2．將自劈分合并競(jìng)爭(zhēng)學(xué)習(xí)運(yùn)用于HMM，提出了一種新的算法。該算法在自劈分