基于決策樹統(tǒng)合方法的最小最大模塊化網絡及其在專利分類中的運用.pdf

1、超大規(guī)模的模式識別問題是現在機器學習算法在實際應用中遇到的越來越多的一個難題。隨著信息時代的到來，現實中這種大規(guī)模問題是很常見的，例如專利分類問題。即便是像支持向量機這樣高效率的學習算法，面對超大規(guī)模的分類問題，也是難以克服的。在這種情況下，利用豐富的計算資源，使得機器學習并行化，是當前機器學習領域的一個重要發(fā)展方向。最小最大模塊化支持向量機(M3-SVM)是基于“分而治之”的思想解決大規(guī)模問題的有效的學習算法。它通過分解大規(guī)模問題，使

2、之轉化為大量小規(guī)模問題進行學習，并通過有效的分類器集成方法將它們重新組合成為大規(guī)模問題的原解，該算法具有天生的并行適應性。為了降低M3-SVM在模塊統(tǒng)合階段的時間復雜度，我們在原有的非對稱選擇和對稱選擇等分類器選擇方法的基礎上，提出了基于決策樹的分類器選擇算法。實驗證明，決策樹選擇算法在分類效果上與原方法相似。但是大大提高了訓練的復雜度。在此基礎上，我們又提出了決策樹訓練數據的選擇方法。該方法大大降低的決策樹訓練的時間，同時也降低的決策