基于Q統(tǒng)計(jì)量的選擇性集成學(xué)習(xí)研究.pdf

1、機(jī)器學(xué)習(xí)技術(shù)已經(jīng)成功應(yīng)用在社會(huì)生活的各個(gè)方面。如手寫漢字識別，人臉識別，網(wǎng)絡(luò)入侵檢測等。由于機(jī)器學(xué)習(xí)在應(yīng)用中取得巨大成就。因此許多研究者都開展了對機(jī)器學(xué)習(xí)的研究。其中集成學(xué)習(xí)是機(jī)器學(xué)習(xí)研究方面的一個(gè)重要研究方向。研究表明集成學(xué)習(xí)能明顯提高機(jī)器學(xué)習(xí)系統(tǒng)的泛化能力。由于集成學(xué)習(xí)利用多個(gè)分類器進(jìn)行學(xué)習(xí)，需要更大的計(jì)算量。然而，隨著個(gè)體分類器的增多，個(gè)體分類器之間的差異度就越小，集成學(xué)習(xí)的精確度反而下降。南京大學(xué)周志華教授提出選擇性集成學(xué)習(xí)的概

2、念。就是從生成的個(gè)體分類器中選擇一部分再集成。實(shí)驗(yàn)表明效果比原集成要好。
　　 差異度是集成學(xué)習(xí)中的一個(gè)重要概念。一個(gè)好的集成學(xué)習(xí)算法，關(guān)鍵是能生成差異度大的個(gè)體分類器。至今，研究者已提出十種差異度度量方式。由于Q統(tǒng)計(jì)量在實(shí)驗(yàn)中效果不錯(cuò)，因此本文采用Q統(tǒng)計(jì)量度量兩個(gè)分類器之間的差異度。提出一種采用Q統(tǒng)計(jì)量的選擇性集成學(xué)習(xí)算法。
　　 由于Weka平臺(tái)是當(dāng)今最流行的機(jī)器學(xué)習(xí)平臺(tái)。它提供了多種機(jī)器學(xué)習(xí)算法，以及對實(shí)驗(yàn)結(jié)果的評

3、估等工具。因此本文的實(shí)驗(yàn)全部基于Weka平臺(tái)實(shí)現(xiàn)。同時(shí)為了使用Weka平臺(tái)的強(qiáng)大功能，把算法集成到Weka平臺(tái)。最后本文還對算法存在的問題進(jìn)行說明和展望，便于今后進(jìn)一步進(jìn)行研究。
　　 概括的說，本文主要包含幾個(gè)方面的內(nèi)容：
　　 (1)概述選擇性集成學(xué)習(xí)國內(nèi)外研究的現(xiàn)狀、背景和意義。包括選擇性集成學(xué)習(xí)的起源、定義、主要技術(shù)，和集成學(xué)習(xí)中流行的差異度。同時(shí)也介紹了開源的機(jī)器學(xué)習(xí)平臺(tái)Weka。
　　 (2) 從差