基于協(xié)同優(yōu)化的非線性核集成方法及其應(yīng)用研究.pdf

1、基于核函數(shù)的方法是從統(tǒng)計學(xué)習(xí)理論中發(fā)展而來的非線性機器學(xué)習(xí)研究方法。很多線性的方法，例如特征抽取、相關(guān)性理論、分類及回歸等，都可基于核化理論推廣為非線性方法。“核技巧”為很多非線性問題的解決提供了一種新的思路，并被廣泛應(yīng)用于復(fù)雜疾病的誘因識別、基因功能相關(guān)分析、以及基因背后的非線性特征分析等領(lǐng)域，有著較高的理論和應(yīng)用價值。然而，核函數(shù)的機器學(xué)習(xí)方法又面臨著很多的挑戰(zhàn):核函數(shù)、核參數(shù)選擇直接影響核化模型的精確性和推廣能力;大數(shù)據(jù)量的核矩陣

2、計算直接影響著核方法的運行速度;各種核方法的理論拓展和實際應(yīng)用推廣性能評價等問題，目前都還沒有統(tǒng)一有效的解決方案。
　　 本論文緊緊圍繞核函數(shù)的機器學(xué)習(xí)方法，針對以上問題，結(jié)合協(xié)同進(jìn)化優(yōu)化思想，對常見的分類、回歸、雙聚類以及相關(guān)性問題進(jìn)行了研究。首先，對核函數(shù)理論、各種協(xié)同進(jìn)化智能技術(shù)及其應(yīng)用領(lǐng)域發(fā)展進(jìn)行了綜述，指出了目前發(fā)展存在的問題以及將來的發(fā)展方向。其次，研究了核函數(shù)機制下非線性分類和回歸框架;探索了基于此框架下，大數(shù)據(jù)量

3、生物信息的分類和回歸預(yù)測的應(yīng)用;然后，應(yīng)用核函數(shù)技巧拓展線性相關(guān)性和聚類方法，分別提出了核相關(guān)性和核雙聚類方法，并將它們應(yīng)用于基因調(diào)控網(wǎng)絡(luò)和同源基因的預(yù)測研究，為探索基因信息背后的非線性特征提供了新的視角。本論文的主要研究成果體現(xiàn)在以下幾個方面:
　　 (1)對于分類，提出了融合數(shù)據(jù)降維、模型優(yōu)化和分類三者為一體的核集成分類器。該分類器通過應(yīng)用核主元分析去除復(fù)共線性噪聲與冗余相關(guān)信息，進(jìn)行多屬性非線性降維;基于協(xié)同免疫克隆優(yōu)化算

4、法對核整體模型進(jìn)行參數(shù)設(shè)置;應(yīng)用支持向量機獲取高維特征空間中的最優(yōu)分類面。該方法可自動獲取不同數(shù)據(jù)的線性和非線性分類優(yōu)化模型。通過大量模式數(shù)據(jù)分類應(yīng)用分析的實驗結(jié)果顯示，該分類器在準(zhǔn)確性和推廣性上優(yōu)于線性分類器和神經(jīng)網(wǎng)絡(luò)方法，這種核集成分類模型在高維空間中會以樣本最少的屬性獲得最好的分類效果。最后將這種核集成分類器應(yīng)用于原發(fā)性開角型青光眼的鑒別，對比于臨床結(jié)果和其他預(yù)測方法，試驗結(jié)果顯示，提出核集成分類器取得較好的鑒別精度，該方法是準(zhǔn)確

5、和有效的。
　　 (2)對于回歸，針對支持向量回歸機核函數(shù)的不同選擇，回歸預(yù)測性能差異大和運行速度慢等問題，結(jié)合協(xié)同粒子群和區(qū)間劃分思想，提出自適應(yīng)核化粒子群支持向量回歸區(qū)間預(yù)測器，并從理論和實驗上探討了這種新的區(qū)間支持向量回歸機的優(yōu)化性能。函數(shù)實驗驗證結(jié)果表明，本論文提出的全局自適應(yīng)核區(qū)間預(yù)測器無論在運行速度還是在回歸預(yù)測精度上，都優(yōu)于一般支持向量回歸，后向神經(jīng)網(wǎng)絡(luò)和三次樣條曲線擬合預(yù)測方法。將其模型應(yīng)用于癌患者生存預(yù)后預(yù)測，

6、取得了較高的擬合準(zhǔn)確度。
　　 (3)對于聚類，提出了非線性核雙聚類架構(gòu)，解決了局部非線性相關(guān)信息的提取，獲得了更為準(zhǔn)確的聚類。針對最為常用的高斯核，從理論上描述了高斯核雙聚類特性。結(jié)合擴展人工免疫克隆系統(tǒng)算法，提出了快速協(xié)同免疫克隆Memetic核雙聚類(CICMKB)算法，為快速獲取非線性核雙聚類提供了應(yīng)用基礎(chǔ)。通過基因共調(diào)控協(xié)同信息提取實驗的驗證，相對于標(biāo)準(zhǔn)遺傳算法和人工免疫算法算法，CICMKB算法的預(yù)測誤差最小，可發(fā)現(xiàn)

7、更多的雙聚類基因，同時我們還給出了生物意義解釋。
　　 (4)對于相關(guān)性分析，拓展了線性Pearson相關(guān)系數(shù)到高維特征空間，提出用于檢測數(shù)據(jù)間非線性交互關(guān)系的核相關(guān)系數(shù)，并給定了統(tǒng)計意義解釋。為了評價這種核相關(guān)交互測度，基于圖論構(gòu)建了一種協(xié)同自適應(yīng)酵母菌基因非線性調(diào)控網(wǎng)絡(luò)。通過與經(jīng)典的線性Pearson網(wǎng)絡(luò)對比，酵母菌基因調(diào)控網(wǎng)絡(luò)的邊、節(jié)點、團(tuán)等分布特征被詳細(xì)分析和討論，并解釋了這些非線性基因相關(guān)性生物意義。通過對十個基因逆向