帶置信度分類器的研究與應(yīng)用.pdf

1、高風(fēng)險領(lǐng)域的分類問題對模式分類算法提出以下三個挑戰(zhàn)： 1)能否設(shè)計一種分類器模型，使得它的輸出結(jié)果能夠附帶置信度； 2)預(yù)測輸出的置信度是有效的，應(yīng)該使得算法的準確率能夠被置信度所控制。 3)算法應(yīng)能夠獨立地對每個測試數(shù)據(jù)提供相應(yīng)的置信度評估，也就是說，能夠根據(jù)指定的置信度產(chǎn)生相應(yīng)的預(yù)測結(jié)果。 針對上述三個挑戰(zhàn)，我們引入了基于轉(zhuǎn)導(dǎo)推理和隨機性檢驗的置信預(yù)測方法來解決這些問題。近年新發(fā)展起來的一致性預(yù)測器(

2、CP)是這種方法的典型代表。但是，CP在實踐中的實用性較差，主要是其固有的運算效率低下、以及對樣本奇異函數(shù)的設(shè)計缺乏指導(dǎo)性準則。我們的工作主要是改進了CP的理論模型，提出了混合壓縮一致性預(yù)測器(HCCP)的算法框架及其實現(xiàn)技術(shù)，使其更適合于實際應(yīng)用。 HCCP在預(yù)測性能與計算效率間取得了一個較好的折衷，它在處理大數(shù)據(jù)集學(xué)習(xí)問題時，在保持算法的預(yù)測效率的同時大大提高了CP的運算效率。HCCP的運作特點是將用于學(xué)習(xí)的樣本序列劃分成

3、兩個部分，并采用兩階段混合壓縮：第一階段先將前一部分序列樣本壓縮成一個模型，并以知識的形式保存；第二階段再將上述知識傳遞給后續(xù)的檢驗樣本序列用于置信預(yù)測。在算法實現(xiàn)技術(shù)方面，HCCP采用有監(jiān)督的度量學(xué)習(xí)方法來實現(xiàn)有效信息在兩個子序列(訓(xùn)練樣本序列和檢驗樣本序列)中的傳遞。并分別通過有監(jiān)督核學(xué)習(xí)方法(HCCP-KerNN)和隨機森林技術(shù)(HCCP-RF)實現(xiàn)了度量學(xué)習(xí)和樣本奇異函數(shù)的設(shè)計。我們還從實驗角度展現(xiàn)了HCCP-RF算法在田納西-