基于Spark和集成學習的分類方法研究.pdf

1、分類是數(shù)據(jù)挖掘和機器學習領域中的重要技術，已有分類算法大多通過重復計算數(shù)據(jù)集來提高分類準確率，然而這是以降低計算效率為代價的。為了在提高分類準確率的同時降低計算代價，通過分析集成學習方法較強的泛化能力，每個屬性擁有的分類能力，以及最小二乘法直接求解線性模型的高效率，提出了基于線性回歸和屬性集成的分類算法（A Classification Algorithm Using Linear Regression and Attribute En

2、semble，簡稱LRAE）。研究的具體工作如下：
　?。?）通過分析決策樹算法，發(fā)現(xiàn)了每個屬性都有分類能力，但它在分類預測時并沒有使用所有樹節(jié)點。這使得部分屬性的分類能力不能被充分利用，從而限制了它的分類準確率。針對這種情況，提出為每個屬性建立分類模型并通過集成方法提高分類準確率。通過分析邏輯回歸和支持向量機算法，發(fā)現(xiàn)它們都通過迭代計算來優(yōu)化分類模型，從而提高分類準確率。這說明優(yōu)化模型需要重復地計算數(shù)據(jù)集，而且它們的較高分類準確

3、率都是以降低計算效率為代價的。為了提高訓練模型的計算效率，提出了使用線性回歸算法來訓練分類模型。
　?。?）LRAE算法的基本原理如下：首先，根據(jù)屬性的分類能力，提出了使用線性回歸為每個屬性構(gòu)建屬性線性分類器（Attribute Linear Classifier，簡稱ALC）；然后，為了避免因ALC過多而導致的準確率下降，結(jié)合最小二乘法的經(jīng)驗誤差最小化策略，使用經(jīng)驗損失值作為評估標準來選擇ALC；最后，采用多數(shù)投票法結(jié)合ALC判