基于SVM和組合特征的分類算法研究.pdf

1、現(xiàn)代社會中，數(shù)據(jù)信息以爆炸式增長，數(shù)據(jù)的樣本量和維度都不斷增高。數(shù)據(jù)挖掘技術(shù)的出現(xiàn)，有效地解決了如何從海量數(shù)據(jù)中發(fā)現(xiàn)有價值信息的問題。分類是數(shù)據(jù)挖掘中最重要的技術(shù)之一，被廣泛應(yīng)用于多個領(lǐng)域。如何有效地利用特征信息，提高分類算法的效果，一直是分類技術(shù)研究的熱點(diǎn)。通過組合特征擴(kuò)大特征空間的算法被證明可以有效地提高分類算法的分類效果。
　　TSP（Top Scoring Pair）算法以特征對的形式組合特征，并選擇最優(yōu)特征對進(jìn)行分類，具

2、有簡單高效等優(yōu)點(diǎn)。k-TSP算法是對TSP算法的一種擴(kuò)展，區(qū)別于TSP算法使用一對特征進(jìn)行分類的方式，k-TSP算法使用k>0對特征進(jìn)行分類。從組合特征的角度看，TSP算法使用固定的形式將任意兩個特征組合為特征對，是特征線性組合的一種特殊形式。組合方式的約束限制了 TSP算法中特征對的分類能力。本文使用 SVM（Support Vector Machine）算法構(gòu)造兩特征的線性組合，用其代替TSP算法中固定的特征組合，提出了 LC-TS

3、P算法，并將 LC-TSP算法擴(kuò)展為使用多個線性組合特征進(jìn)行分類的LC-k-TSP算法。在公共數(shù)據(jù)集上的實(shí)驗(yàn)證明了LC-TSP算法和LC-k-TSP算法具有比TSP算法和k-TSP算法更優(yōu)的分類性能。
　　相關(guān)性組合特征是基于一對特征的皮爾森相關(guān)系數(shù)構(gòu)造出的新特征，有研究證明了其可以表示特征間相關(guān)性的變化，有利于發(fā)現(xiàn)類別區(qū)分能力強(qiáng)的特征。然而相關(guān)性組合特征的構(gòu)造會引入過多的特征，可能造成維數(shù)災(zāi)難。本文根據(jù)相關(guān)性組合特征的形式和原理