成對(duì)約束下半監(jiān)督特征選擇算法研究.pdf

1、特征選擇是機(jī)器學(xué)習(xí)領(lǐng)域的研究的重要內(nèi)容之一。隨著應(yīng)用于機(jī)器學(xué)習(xí)領(lǐng)域的數(shù)據(jù)維數(shù)不斷升高,數(shù)據(jù)存儲(chǔ)、運(yùn)算,都消耗了大量的計(jì)算機(jī)資源。為了節(jié)省資源,避免所謂“維數(shù)災(zāi)難”的出現(xiàn),變量和特征的降維技術(shù)在許多研究課題和實(shí)際應(yīng)用中(如:網(wǎng)絡(luò)文檔的文本處理,基因表達(dá)序列分析,組合化數(shù)據(jù)等等),都有著非常重要的意義。
　　 半監(jiān)督特征選擇算法是針對(duì)于含有少量監(jiān)督信息和大量無標(biāo)記數(shù)據(jù)的樣本集的特征選擇算法?，F(xiàn)有多數(shù)半監(jiān)督特征選擇方法是基于類標(biāo)記這種

2、監(jiān)督信息形式的,而在實(shí)際應(yīng)用中,成對(duì)約束分類信息作為一種先驗(yàn)知識(shí)的形式往往比較容易獲得,成對(duì)約束下的半監(jiān)督特征選擇算法并不多見。本文主要針對(duì)成對(duì)約束下的半監(jiān)督特征選擇算法進(jìn)行了相關(guān)的研究,主要研究工作如下:
　　 (1)提出了一種成對(duì)約束下基于假設(shè)間隔的半監(jiān)督特征選擇算法Csimba。該算法利用成對(duì)約束條求解使假設(shè)間隔最大的特征,以此進(jìn)行特征排序。在UCI數(shù)據(jù)集的實(shí)驗(yàn)表明提出的算法是有效的。
　　 (2)提出了一種成對(duì)約

3、束下基于特征相關(guān)性的半監(jiān)督特征選擇算法ICSMI。算法利用互信息和信息熵估計(jì)特征間的相關(guān)性,可以降低特征子集的冗余度,增強(qiáng)了特征的有效性。在UCI數(shù)據(jù)集的實(shí)驗(yàn)表明提出的算法是有效的。
　　 (3)提出了一種成對(duì)約束擴(kuò)展方法RCE。該方法利用Relevant-Set Correlation聚類模型對(duì)于成對(duì)約束包含的樣本點(diǎn)進(jìn)行聚類,從而擴(kuò)展成對(duì)約束集。利用擴(kuò)展后的成對(duì)約束集并運(yùn)用ICSMI進(jìn)行特征選擇,從而使ICSMI算法在初始成對(duì)