面向生物數(shù)據(jù)分析的支持向量機(jī)技術(shù)的研究.pdf

1、支持向量機(jī)(Support Vector Machines，簡(jiǎn)稱SVM)是基于統(tǒng)計(jì)學(xué)習(xí)理論的一種新的數(shù)據(jù)挖掘技術(shù)，它借助于最優(yōu)化方法來(lái)解決復(fù)雜的機(jī)器學(xué)習(xí)問題。SVM是處理小樣本、高維數(shù)據(jù)的有效方法，它有著良好的理論基礎(chǔ)的支持。它能夠較好地解決了神經(jīng)網(wǎng)絡(luò)等方法的過(guò)學(xué)習(xí)問題，同時(shí)也能夠較好地克服維數(shù)災(zāi)難問題。 二十一世紀(jì)是生命科學(xué)迅猛發(fā)展的時(shí)代，生物數(shù)據(jù)呈指數(shù)增長(zhǎng)，分析和挖掘生物數(shù)據(jù)背后隱藏的生物學(xué)規(guī)律已成為生命科學(xué)家關(guān)注的焦點(diǎn)。人

2、類基因組中DNA序列的功能性研究是一個(gè)重要研究方向。對(duì)于一個(gè)給定的DNA序列，判斷它是基因序列還是間區(qū)序列是進(jìn)一步分析序列的前提。開發(fā)有效和快捷的分析算法是加速分析和理解生物信息的重要手段之一。目前國(guó)際上已有很多基因識(shí)別軟件，但大多數(shù)軟件不能識(shí)別完整的基因。 本文主要研究目標(biāo)是利用SVM和其它的機(jī)器學(xué)習(xí)方法對(duì)生物數(shù)據(jù)進(jìn)行分類。論文首先系統(tǒng)地研究了基于統(tǒng)計(jì)學(xué)習(xí)理論的生物數(shù)據(jù)分類技術(shù)；然后，對(duì)不同的學(xué)習(xí)方法進(jìn)行了性能比較和評(píng)價(jià)。

3、 統(tǒng)計(jì)學(xué)習(xí)理論的最大貢獻(xiàn)是提出了結(jié)構(gòu)風(fēng)險(xiǎn)最小化(SRM)歸納原理和基于該原理的實(shí)現(xiàn)方法一支持向量機(jī)。SRM原則已經(jīng)顯示出了優(yōu)于傳統(tǒng)的用于一般的神經(jīng)網(wǎng)絡(luò)的經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化(ERM)原則。SRM原則最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)和置信范圍的和，而ERM原則最小化訓(xùn)練誤差。其差別在于基于SRM原則的SVM學(xué)習(xí)方法有更好的推廣能力，這正是統(tǒng)計(jì)學(xué)習(xí)的目標(biāo)。 從長(zhǎng)長(zhǎng)的DNA序列中準(zhǔn)確地提取出具有分類特征的訓(xùn)練屬性是機(jī)器學(xué)習(xí)的第一步。針對(duì)DNA數(shù)據(jù)的復(fù)雜性

4、，本文提出了一種基于語(yǔ)言學(xué)方法的特征提取方法。假設(shè)僅考慮2類問題，該方法將出現(xiàn)在DNA序列中的所有長(zhǎng)度為2～6的短序列作為候選特征詞匯，對(duì)每個(gè)候選的特征詞匯計(jì)算它在DNA序列集中的各個(gè)序列出現(xiàn)的頻率、在DNA序列集合中出現(xiàn)頻率，以及在不同類序列集內(nèi)出現(xiàn)的相對(duì)差，來(lái)決定它是否為關(guān)鍵詞匯作為訓(xùn)練屬性。從而，將DNA序列映射到歐式空間中，使每個(gè)DNA序列對(duì)應(yīng)于歐式空間中的一個(gè)向量。 論文提出并實(shí)現(xiàn)了利用支持向量機(jī)來(lái)識(shí)別人類完整基因的方

5、法，在不依賴于特殊的生物領(lǐng)域信息的基礎(chǔ)上使基因識(shí)別分類精度達(dá)到了85％。在對(duì)完整基因的實(shí)現(xiàn)分類的基礎(chǔ)上，通過(guò)大量試驗(yàn)，對(duì)復(fù)雜的訓(xùn)練參數(shù)選擇，提出了在SVM訓(xùn)練過(guò)程中參數(shù)選擇的具體而有效的方法。在對(duì)訓(xùn)練數(shù)據(jù)沒有充分了解的情況下，對(duì)于C-SVC訓(xùn)練中，懲罰因子C從大到小地選取往往比其從小到大地選取更快地找到最佳訓(xùn)練結(jié)果。論文通過(guò)與其它學(xué)習(xí)方法進(jìn)行比對(duì)，驗(yàn)證了SVM方法的諸多優(yōu)勢(shì)。對(duì)DNA序列分類問題，首次將SVM訓(xùn)練方法與二元Logisti

6、c回歸(BLR)方法進(jìn)行了比較。在處理高維、復(fù)雜數(shù)據(jù)分類問題上，SVM不僅在分類精度上優(yōu)于BLR和人工神經(jīng)網(wǎng)絡(luò)(ANN)，而且在訓(xùn)練速度上遠(yuǎn)遠(yuǎn)優(yōu)于它們。 論文初步探討了并行SVM訓(xùn)練算法，并將遺傳算法引進(jìn)到了并行SVM訓(xùn)練過(guò)程中，充分地利用了SVM和遺傳算法中固有并行化特點(diǎn)。 論文研究工作將SVM技術(shù)用于生物數(shù)據(jù)分類并得到了滿意的實(shí)驗(yàn)結(jié)果，它將使我們利用該方法解決其它生物數(shù)據(jù)的分類問題，因?yàn)樯飻?shù)據(jù)既有整體上的相似性，在