利用PCA和AdaBoost建立基于貝葉斯的組合分類器.pdf

1、分類作為數(shù)據(jù)挖掘的重要分支，已經(jīng)有很多成熟的技術被廣泛應用于醫(yī)療、商業(yè)、金融、電訊、科學研究等眾多領域。分類作為數(shù)據(jù)挖掘領域研究的核心課題之一，如何有效地提高分類準確率一直是眾多研究者們努力的方向。作為提高弱分類器的有效方法，組合分類方法倍受青睞，現(xiàn)在組合分類方法已成為研究的熱點之一。
　　 組合分類方法是從機器學習領域逐漸發(fā)展而來的用于提升弱分類器準確率的技術，被認為是近十年來提出的最有效的學習思想之一。目前組合分類器仍是機器

2、學習和模式識別方面研究的活躍領域之一。
　　 本文我們介紹了幾種常見的分類方法，其中較多的介紹了貝葉斯分類方法，分析表明，貝葉斯分類算法具有良好的分類性能，尤其是應用于大型數(shù)據(jù)集，貝葉斯分類算法能夠表現(xiàn)出高準確度和高速度；接著我們詳細的介紹了旋轉森林和AdaBoost兩種組合分類方法，分析了兩種算法各自的特點，綜合兩種組合算法的特點再加上貝葉斯的快速準確分類的特點，我們提出了一種融合兩種組合方法優(yōu)點并且基于貝葉斯的新的組合分類算

3、法。
　　 本文的主要工作是：在創(chuàng)建訓練樣本時，隨機地將特征集劃分成K個子集，使用PCA得到每個子集的主成分，形成新的特征空間，并將全部的訓練數(shù)據(jù)映射到新的特征空間作為新的訓練集。通過不同的變換，生成不同的特征空間，從而產(chǎn)生若干個有差異的訓練集。然后在每一個新的訓練集上利用AdaBoost建立一組基于貝葉斯的逐漸提升的分類器(即一個分類器組)，這樣就建立了若干個有差異的分類器組，然后在每個分類器組內(nèi)部通過加權投票產(chǎn)生一個預測，再