分類問題的智能優(yōu)化算法及其應(yīng)用研究.pdf

1、智能優(yōu)化算法（Intelligent optimization algorithms）通過模仿生物的智能行為來實(shí)現(xiàn)優(yōu)化功能。例如，遺傳算法（Genetic Algorithm,GA）模仿生物種群中自然選擇的機(jī)制來求解優(yōu)化問題；粒子群優(yōu)化算法模仿鳥群覓食遷移中，個(gè)體與群體協(xié)調(diào)一致的機(jī)理來指導(dǎo)優(yōu)化搜索等。智能優(yōu)化方法具有簡單通用、魯棒性強(qiáng)和適于并行等優(yōu)點(diǎn)，在模式識(shí)別、智能控制、并行搜索、聯(lián)想記憶等方面得到了廣泛的應(yīng)用。
　　支持向量機(jī)

2、（Support Vector Machines,SVM）是一種應(yīng)用廣泛的數(shù)據(jù)分類技術(shù)，當(dāng)高斯核支持向量機(jī)應(yīng)用于各種各樣的數(shù)據(jù)分類領(lǐng)域時(shí)，首先面臨的至關(guān)緊要的問題是：怎樣選擇懲罰參數(shù)C和核參數(shù)?（即怎樣進(jìn)行支持向量機(jī)模型選擇），怎樣優(yōu)化輸入特征子集以提高分類準(zhǔn)確率和減小特征子集。通過用戶使用枚舉法進(jìn)行參數(shù)選擇，往往降低支持向量機(jī)分類性能，得出的分類準(zhǔn)確率很低，不能滿足分類要求。采用網(wǎng)格搜索算法進(jìn)行支持向量機(jī)參數(shù)優(yōu)化，由于一定程度地提高了

3、分類準(zhǔn)確率，初步滿足分類要求。隨著數(shù)據(jù)分類領(lǐng)域?qū)Ψ诸悳?zhǔn)確率的要求不斷提高，采用智能優(yōu)化算法和支持向量機(jī)的結(jié)合同時(shí)優(yōu)化輸入特征子集和支持向量機(jī)參數(shù)，進(jìn)一步提高了分類準(zhǔn)確率。本論文在上述研究工作的基礎(chǔ)上，將支持向量機(jī)的漸進(jìn)性能融入智能優(yōu)化算法，提出了基于特征染色體的遺傳算法、基于特征粒子的粒子群優(yōu)化算法、基于特征抗體的克隆選擇算法，分別構(gòu)建提出的算法和支持向量機(jī)的混合系統(tǒng)以同時(shí)優(yōu)化輸入特征子集和支持向量機(jī)參數(shù)，取得了更高的準(zhǔn)確率、更小的特征

4、子集和更少的處理時(shí)間。通過將支持向量機(jī)的漸進(jìn)性能融入智能優(yōu)化算法，構(gòu)建智能優(yōu)化算法和支持向量機(jī)的混合系統(tǒng)解決上述問題是本論文的基本研究方法。
　　本論文以分類問題的智能優(yōu)化算法及其應(yīng)用研究、智能優(yōu)化算法和支持向量機(jī)混合研究為課題，本論文的貢獻(xiàn)和創(chuàng)新點(diǎn)概括如下：
　　（1）基于特征染色體的遺傳算法
　　基于遺傳算法的原理和搜索機(jī)制，將支持向量機(jī)的漸進(jìn)性能融入遺傳算法，通過生成特征染色體操作將遺傳算法的搜索導(dǎo)向到超參數(shù)空間

5、中的最佳泛化誤差直線，提出一種基于特征染色體的遺傳算法，構(gòu)造基于特征染色體的遺傳算法和支持向量機(jī)混合系統(tǒng)以同時(shí)進(jìn)行特征選擇和參數(shù)設(shè)置的優(yōu)化。對(duì)提出的算法的收斂性進(jìn)行了分析。與類似方法相比，提出的算法不僅具有更高的分類準(zhǔn)確率和更小的特征子集，而且具有更少的處理時(shí)間。
　?。?）基于特征粒子的粒子群優(yōu)化算法
　　基于粒子群優(yōu)化算法的原理和搜索機(jī)制，通過生成特征粒子操作將支持向量機(jī)的漸進(jìn)性能融入粒子群優(yōu)化算法，提出一種基于特征粒子

6、的粒子群優(yōu)化算法，構(gòu)造基于特征粒子的粒子群優(yōu)化算法和支持向量機(jī)混合系統(tǒng)以同時(shí)進(jìn)行特征選擇和參數(shù)設(shè)置的優(yōu)化。分析了提出算法的復(fù)雜度。實(shí)驗(yàn)指出，提出的算法具有更高的分類準(zhǔn)確率、更小的特征子集和更少的處理時(shí)間。
　　（3）基于特征抗體的克隆選擇算法
　　基于克隆選擇算法的原理和搜索機(jī)制，通過生成特征抗體操作將支持向量機(jī)漸進(jìn)性能引入克隆選擇算法，提出一種基于特征抗體的克隆選擇算法，構(gòu)造基于特征抗體的克隆選擇算法和支持向量機(jī)混合系統(tǒng)以

7、同時(shí)進(jìn)行特征選擇和參數(shù)優(yōu)化。通過算法性能對(duì)比實(shí)驗(yàn)，得出提出的算法具有更高的分類準(zhǔn)確率和更小的特征子集。
　?。?）混合智能優(yōu)化算法研究
　　提出一種基于特征染色體的遺傳算法和量子遺傳算法的混合算法，構(gòu)造基于特征染色體的遺傳算法、量子遺傳算法和支持向量機(jī)混合系統(tǒng)，給出了詳細(xì)的實(shí)驗(yàn)結(jié)果和算法性能對(duì)比，驗(yàn)證了該算法是一種有效的方法。除此之外，還提出一種基于特征抗體的克隆選擇算法和差分進(jìn)化算法的混合算法，構(gòu)造基于特征抗體的克隆選擇算

8、法、差分進(jìn)化算法和支持向量機(jī)混合系統(tǒng)，給出了詳細(xì)的實(shí)驗(yàn)結(jié)果和算法性能對(duì)比，實(shí)驗(yàn)指出提出的算法是一種有用的方法。
　　（5）智能優(yōu)化算法應(yīng)用研究
　　根據(jù)微陣列基因表達(dá)數(shù)據(jù)的特點(diǎn)，提出一種基于特征染色體的遺傳算法包裝法、信噪比過濾法和支持向量機(jī)混合系統(tǒng)的信息基因搜索方法，以同時(shí)搜索到基因數(shù)量少而分類準(zhǔn)確率高的信息基因子集，實(shí)驗(yàn)結(jié)果表明，與其它優(yōu)秀的腫瘤分類方法相比，提出的方法在信息基因數(shù)量及分類準(zhǔn)確率方面具有明顯的優(yōu)越性。另外