面向動(dòng)態(tài)數(shù)據(jù)流的分類(lèi)方法研究.pdf

1、隨著信息社會(huì)的發(fā)展，各個(gè)領(lǐng)域產(chǎn)生的數(shù)據(jù)量呈現(xiàn)出爆炸性增長(zhǎng)，許多領(lǐng)域產(chǎn)生了海量的數(shù)據(jù)流，如何從海量的數(shù)據(jù)流中挖掘出有價(jià)值的信息,這是一個(gè)在當(dāng)前受到廣泛關(guān)注的問(wèn)題。分類(lèi)是一種重要的數(shù)據(jù)分析形式，它通過(guò)已有的數(shù)據(jù)來(lái)預(yù)測(cè)未知數(shù)據(jù)的類(lèi)標(biāo)簽，在傳統(tǒng)的分類(lèi)算法中，一旦分類(lèi)模型訓(xùn)練完成，分類(lèi)模型也就被固定，也不再進(jìn)行調(diào)整，很顯然，這種分類(lèi)模式無(wú)法應(yīng)對(duì)動(dòng)態(tài)變化的數(shù)據(jù)流。數(shù)據(jù)流不同于傳統(tǒng)的靜態(tài)數(shù)據(jù)，往往具有數(shù)據(jù)數(shù)量無(wú)限，快速到達(dá)，概念漂移等特性，因此，從數(shù)

2、據(jù)流中挖掘出人們感興趣的知識(shí)和模式需要全新的算法框架。
　　數(shù)據(jù)流反映的是數(shù)據(jù)的實(shí)時(shí)信息，與傳統(tǒng)的分類(lèi)算法相比，數(shù)據(jù)流分類(lèi)最大的特點(diǎn)是能夠根據(jù)數(shù)據(jù)的動(dòng)態(tài)變化來(lái)不斷地調(diào)整分類(lèi)模型。然而，數(shù)據(jù)流中含有概念漂移，如何更加有效地檢測(cè)出概念漂移以及采取一定的措施來(lái)更好地應(yīng)對(duì)概念漂移，這是數(shù)據(jù)流分類(lèi)中一個(gè)需要亟待解決的問(wèn)題。為此，本文以傳統(tǒng)的分類(lèi)框架為基礎(chǔ)，針對(duì)數(shù)據(jù)流的分類(lèi)問(wèn)題進(jìn)行了系統(tǒng)地研究，主要取得了如下成果：
　　1.結(jié)合單隱含層

3、的神經(jīng)網(wǎng)絡(luò)極限學(xué)習(xí)機(jī)模型和在線序列學(xué)習(xí)機(jī)制，提出了一種面向數(shù)據(jù)流分類(lèi)的快速極限學(xué)習(xí)機(jī)算法，給出了快速二分搜索確定隱含層節(jié)點(diǎn)數(shù)目的方法，并通過(guò)相鄰兩個(gè)數(shù)據(jù)塊分類(lèi)結(jié)果準(zhǔn)確率的變化幅度來(lái)判斷是否發(fā)生概念漂移。該算法解決了傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)速度慢，時(shí)間開(kāi)銷(xiāo)大，無(wú)法直接應(yīng)用在數(shù)據(jù)流分類(lèi)任務(wù)的問(wèn)題。實(shí)驗(yàn)結(jié)果表明，該算法不但可以有效地檢測(cè)出概念漂移，而且能夠獲得很高的準(zhǔn)確率。
　　2.根據(jù)數(shù)據(jù)流中不同類(lèi)型的變化對(duì)分類(lèi)器性能的影響，提出了一種帶有

4、自適應(yīng)調(diào)整機(jī)制的動(dòng)態(tài)極限學(xué)習(xí)機(jī)算法。給出了根據(jù)分類(lèi)結(jié)果的準(zhǔn)確率來(lái)動(dòng)態(tài)調(diào)整隱含層節(jié)點(diǎn)數(shù)目的方法，當(dāng)算法檢測(cè)到概念漂移時(shí)，通過(guò)重新構(gòu)建新的ELM來(lái)適應(yīng)新的數(shù)據(jù)分布。實(shí)驗(yàn)結(jié)果表明，此算法由于具有自適應(yīng)調(diào)整機(jī)制，在具有原始ELM算法優(yōu)點(diǎn)的同時(shí)，降低了對(duì)用戶經(jīng)驗(yàn)的依賴。
　　3.根據(jù)數(shù)據(jù)塊信息量的變化與數(shù)據(jù)分布關(guān)系，提出了一種基于信息熵的集成式數(shù)據(jù)流分類(lèi)算法ECBE。該算法利用Hoeffding界來(lái)判斷是否發(fā)生了概念漂移，當(dāng)發(fā)生概念漂移時(shí)，

5、系統(tǒng)根據(jù)權(quán)值來(lái)對(duì)分類(lèi)器進(jìn)行凋整。該算法在訓(xùn)練階段訓(xùn)練多個(gè)分類(lèi)器，分類(lèi)器的權(quán)值由分類(lèi)前后熵值的變化來(lái)確定。實(shí)驗(yàn)結(jié)果表明，相比于用準(zhǔn)確率反映數(shù)據(jù)塊數(shù)據(jù)分布的算法，ECBE算法能夠獲得更佳的分類(lèi)效果。
　　4.針對(duì)數(shù)據(jù)流中漸進(jìn)式概念漂移檢測(cè)問(wèn)題，提出了一種結(jié)合無(wú)監(jiān)督學(xué)習(xí)的數(shù)據(jù)流分類(lèi)算法。該算法以集成式分類(lèi)技術(shù)為基礎(chǔ)，在分類(lèi)過(guò)程中引入屬性約簡(jiǎn)，通過(guò)對(duì)比分類(lèi)和聚類(lèi)結(jié)果的準(zhǔn)確率，來(lái)判斷是否發(fā)生概念漂移，從而避免了依據(jù)相鄰兩個(gè)數(shù)據(jù)塊分類(lèi)結(jié)果的準(zhǔn)

6、確率往往只對(duì)突變式概念漂移較為敏感的問(wèn)題。實(shí)驗(yàn)結(jié)果表明，該算法在突變式和漸進(jìn)式概念漂移上都取得了較好的效果，具有良好的魯棒性。
　　5.在概念漂移中，衡量分類(lèi)器對(duì)前后兩個(gè)數(shù)據(jù)塊的分類(lèi)能力是關(guān)鍵，而Kappa系數(shù)是衡量?jī)蓚€(gè)變量一致性的重要方法。為了應(yīng)對(duì)隱含概念漂移的數(shù)據(jù)流分類(lèi)問(wèn)題，提出了一種基于Kappa系數(shù)的數(shù)據(jù)流分類(lèi)算法。該算法在分類(lèi)的過(guò)程中計(jì)算各個(gè)數(shù)據(jù)塊的分類(lèi)結(jié)果的Kappa系數(shù)，利用Kappa系數(shù)來(lái)檢測(cè)數(shù)據(jù)流中的概念是否發(fā)生

7、改變。實(shí)驗(yàn)結(jié)果表明，該算法能以較快的速度適應(yīng)數(shù)據(jù)的動(dòng)態(tài)變化，在時(shí)間消耗和分類(lèi)精度方面具有較為明顯的優(yōu)勢(shì)。
　　本文針對(duì)隱含概念漂移的數(shù)據(jù)流分類(lèi)問(wèn)題，分別依據(jù)ELM、雙隱含層的ELM、信息熵、無(wú)監(jiān)督學(xué)習(xí)，Kappa系數(shù)等機(jī)制，發(fā)展出了一系列有效的數(shù)據(jù)流分類(lèi)算法，相關(guān)的實(shí)驗(yàn)結(jié)果也充分地表明，這些算法是可行且有效的，不但能夠有效地檢測(cè)出數(shù)據(jù)流中的概念漂移，而且能夠獲得較好的分類(lèi)效果。本文的研究成果，對(duì)于面向數(shù)據(jù)流分類(lèi)方法的研究具有重要的