分類問題中的新類識別與分類器更新方法研究.pdf

1、多年來隨著分類理論的深入研究，各種分類應用諸如光學字符識別、語音識別、文本及圖像分類等也都在逐步開展，并取得了很多很好的成果。分類理論在這些問題上的成功應用，鼓舞人們把分類廣泛地用于諸如客戶資信評估、網絡入侵檢測、垃圾郵件檢測等在線分類系統(tǒng)。隨著分類理論的廣泛應用，分類研究面臨一些新的問題，其中較嚴重的一個就是“訓練數據集與待分類數據集獨立同分布”的假設在很多應用中得不到滿足。在客戶資信評估、網絡入侵檢測、垃圾郵件檢測等應用中，很可能會

2、隨著系統(tǒng)的運行而不斷出現(xiàn)新的類別。當新類別出現(xiàn)時，原有的分類系統(tǒng)便因為數據分布發(fā)生的顯著變化而失效，由此帶來的分類錯誤往往會導致很嚴重的損失。 當待分類數據中出現(xiàn)客觀新類時，傳統(tǒng)分類器無法應對。針對這個問題，本文提出了從待分類數據中識別新類，并在之后對分類器進行自動更新的自適應分類方法。依照這個思路，本文開展了三方面工作，并得出以下成果。 1)針對待分類數據中出現(xiàn)的客觀新類，本文提出使用類別描述進行新類識別的方法，并分別

3、給出基于邊界和基于概率密度函數兩種方式來實現(xiàn)，其中，邊界方式使用支持向量數據描述來實現(xiàn)，而概率密度方式使用高斯混合模型來實現(xiàn)。實驗結果表明識別準確率受數據分布和距離尺度選擇的影響很大，兩種方法在UCI數據集的4個數據集上的平均識別準確率分別是44.249％和38.358％。 2)對使用邊界描述方式進行新類識別的實驗結果進行分析發(fā)現(xiàn)，識別率過低的原因在于樣本間的距離不能很好反映樣本間的相似程度，針對該問題本文提出尺度變換的映射思想

4、，引入尺度學習方法，從訓練樣本中學習適合于當前數據集的尺度，使得相似樣本距離較近，而不相似樣本距離較遠。在UCI數據集上的實驗結果表明，加入尺度學習后，基于邊界的新類識別的平均準確率從44.249％提高至68.329％。 3)針對新類及其代表樣本被識別出后如何更新現(xiàn)有分類器的問題，本文提出可繼承數據挖掘的思想，根據兩次相鄰學習的相似性和知識變化的漸進性特點，提出可供分類器更新使用的中間計算，并基于此提出并實現(xiàn)了類別增量的決策樹學