數(shù)據(jù)流分類中若干問題的研究.pdf

1、許多應(yīng)用領(lǐng)域產(chǎn)生的數(shù)據(jù)屬于數(shù)據(jù)流類型，比如信用卡交易業(yè)務(wù)、傳感器網(wǎng)絡(luò)和網(wǎng)絡(luò)監(jiān)控等等。如何從數(shù)據(jù)流中發(fā)現(xiàn)隱含的知識(shí)，即數(shù)據(jù)流挖掘成了一個(gè)研究熱點(diǎn)。流數(shù)據(jù)高速、連續(xù)無限和動(dòng)態(tài)的特性使得傳統(tǒng)的數(shù)據(jù)分析和挖掘技術(shù)無效或需要改進(jìn)。 本文針對(duì)數(shù)據(jù)流分類中的幾個(gè)關(guān)鍵問題進(jìn)行了研究，包括高效地建立分類模型、監(jiān)測(cè)和識(shí)別數(shù)據(jù)流的變化、如何使分類模型有效地適應(yīng)數(shù)據(jù)流的變化等。主要的工作有以下幾個(gè)方面： (1)提出了一種處理數(shù)值型屬性的方法，可

2、以高效地建立數(shù)據(jù)流的決策樹分類模型。數(shù)據(jù)流連續(xù)無限和高速流動(dòng)的特性對(duì)算法的時(shí)空性能提出了嚴(yán)峻的挑戰(zhàn)，不但要求使用固定大小的適量?jī)?nèi)存，而且對(duì)整個(gè)數(shù)據(jù)流僅存取一次，實(shí)時(shí)地處理每一個(gè)對(duì)象。對(duì)于決策樹而言，數(shù)值型屬性的處理是滿足實(shí)時(shí)性要求的瓶頸。數(shù)據(jù)流往往包含大量的數(shù)值型屬性，且每一屬性又可能具有大量的不同值，如何高效地處理它們是問題的關(guān)鍵?，F(xiàn)有的方法有的不能處理數(shù)值型屬性，有的計(jì)算代價(jià)較高。本文利用數(shù)值型屬性在構(gòu)建決策樹中的特殊性質(zhì)，可以高效

3、地處理數(shù)值型屬性，建立一個(gè)有效的決策樹分類模型。實(shí)驗(yàn)結(jié)果表明了方法的有效性。 (2)提出了一種監(jiān)測(cè)數(shù)據(jù)流變化的方法，能可靠地識(shí)別噪聲變化和顯著變化，有助于正確地更新模型，降低類標(biāo)數(shù)據(jù)的需求量。數(shù)據(jù)流的應(yīng)用是一個(gè)不斷延續(xù)的過程，產(chǎn)生數(shù)據(jù)流的概率分布模型容易發(fā)生變化。為了有效地適應(yīng)潛在的變化，分類算法不但要監(jiān)測(cè)變化，而且能區(qū)別不同性質(zhì)的變化。對(duì)導(dǎo)致分類模型無效的顯著變化具有敏感性，對(duì)噪聲變化具有健壯性?，F(xiàn)存的方法有的完全依賴類標(biāo)數(shù)據(jù)

4、監(jiān)測(cè)變化，有的缺乏可靠性。本文將監(jiān)測(cè)和識(shí)別變化分成兩個(gè)步驟：利用決策樹的結(jié)構(gòu)信息和無類標(biāo)數(shù)據(jù)實(shí)時(shí)地監(jiān)測(cè)變化；當(dāng)出現(xiàn)可疑變化時(shí)，利用少量的標(biāo)記資源，可靠地驗(yàn)證變化的真實(shí)性，以便正確地響應(yīng)顯著變化，忽略噪聲變化。 (3)針對(duì)顯著變化，提出了一種主動(dòng)學(xué)習(xí)算法組織質(zhì)量最優(yōu)的訓(xùn)練數(shù)據(jù)，更新過時(shí)的分類模型，降低類標(biāo)數(shù)據(jù)的需求量。一旦數(shù)據(jù)流發(fā)生顯著變化，必須組織類標(biāo)數(shù)據(jù)更新無效的分類模型。標(biāo)記數(shù)據(jù)是一個(gè)費(fèi)時(shí)、費(fèi)力的處理過程，許多方法假設(shè)類標(biāo)數(shù)

5、據(jù)及時(shí)可用，但這一假設(shè)往往不成立。有的方法被動(dòng)地等待類標(biāo)數(shù)據(jù)可用，無法適應(yīng)數(shù)據(jù)流變化的不可預(yù)測(cè)性。還有一些方法隨機(jī)地組織部分類標(biāo)數(shù)據(jù)，效率較低。主動(dòng)學(xué)習(xí)方法可以高效地選取最具代表性的對(duì)象作為訓(xùn)練數(shù)據(jù)。實(shí)驗(yàn)結(jié)果表明，利用適當(dāng)?shù)臉?biāo)記資源，基于主動(dòng)學(xué)習(xí)的方法可以保持一個(gè)有效的分類模型，在標(biāo)記資源較少時(shí)，取得比其它算法更好的效果。 (4)為了避免或緩解由于標(biāo)記資源不足引起的過度擬合問題，提出了一種半監(jiān)督學(xué)習(xí)算法，該方法不依賴于額外的標(biāo)記

6、資源，利用少量的類標(biāo)數(shù)據(jù)和大量的無類標(biāo)數(shù)據(jù)，極大地提高分類模型的性能。實(shí)驗(yàn)結(jié)果表明，基于半監(jiān)督學(xué)習(xí)的方法可以大大降低類標(biāo)數(shù)據(jù)的需求量，相比于其它方法，可以顯著提高模型的性能，特別是在類標(biāo)數(shù)據(jù)很少的情況下。 (5)提出了一種主動(dòng)學(xué)習(xí)和半監(jiān)督學(xué)習(xí)有機(jī)結(jié)合的方法，能充分發(fā)揮各自的優(yōu)勢(shì)，互相彌補(bǔ)各自的不足，進(jìn)一步提高了分類模型的性能和降低類標(biāo)數(shù)據(jù)的需求量。一方面，半監(jiān)督學(xué)習(xí)方法利用大量無類標(biāo)數(shù)據(jù)可以克服或減輕主動(dòng)學(xué)習(xí)中類標(biāo)數(shù)據(jù)偏斜或不足