基于鄰域要素的局部密度離群點(diǎn)檢測.pdf

1、現(xiàn)今的大多數(shù)數(shù)據(jù)挖掘算法更偏重于發(fā)現(xiàn)大部分?jǐn)?shù)據(jù)的模式匹配，卻不太深入研究那些偏離模式的特殊數(shù)據(jù)對象。然而恰恰就是這些罕見事件、特殊對象、異常信息的價(jià)值有時(shí)候往往會比正常的數(shù)據(jù)對象更具有研究價(jià)值，更受人們青睞。例如異常銀行卡取錢當(dāng)中，人們并不關(guān)心正常額度的取款信息，而更加看重那種大額等異常取款信息;在流量信息分析中，人們可以通過檢測異常流量信息來推斷是否足中病毒;在病例圖像分析中，人們可以通過檢測異常像素點(diǎn)來推測是否為癌癥患者等等。從上面

2、的描述可以看出，離群點(diǎn)應(yīng)該是具有研究價(jià)值、特殊意義的數(shù)據(jù)對象，而不是由于數(shù)據(jù)冗余、數(shù)據(jù)缺失等原因產(chǎn)生的噪聲。Hawkins認(rèn)為離群點(diǎn)是另一種機(jī)制產(chǎn)生的不同信號;它偏離了正常的觀測信號。
　　 為了發(fā)現(xiàn)這類有研究意義的離群點(diǎn)，人們先后提出了基于統(tǒng)計(jì)的離群點(diǎn)檢測方法、基于距離的離群點(diǎn)檢測方法、基于密度的離群點(diǎn)檢測方法、基于深度的離群點(diǎn)檢測方法、基于偏差的離群點(diǎn)檢測方法、基于聚類的離群點(diǎn)檢測方法。其中基于密度的離群點(diǎn)檢測方法尤為出色，

3、它從局部出發(fā)，從對象的鄰居來看待其孤立情況。算法可以檢測各種形狀的簇，同時(shí)也適合于全局情況。但該算法計(jì)算量復(fù)雜，這個(gè)致命缺點(diǎn)使得算法不適合比較大的數(shù)據(jù)集。為了將局部離群點(diǎn)檢測方法用于現(xiàn)實(shí)牛活中，對此，人們又提出了用鄰域半徑來衡量局部可達(dá)密度，用以減少計(jì)算量。然而，這種思想只是粗糙的度量了鄰域的密度，精確度不夠。
　　 針對以上一些問題，本文提出了基于鄰域要素的局部密度離群點(diǎn)檢測算法?；谝郧胺椒ù嬖诘膯栴}，本文進(jìn)行了如下研究:1

4、、針對局部離群點(diǎn)檢測不適于大數(shù)據(jù)集問題，提出了利用基于微粒群和變異模糊c均值算法相結(jié)合的聚類算法撇除一大部分非離群點(diǎn)，從而減少可疑離群點(diǎn)規(guī)模;并且將離群因子中最大的前m個(gè)作為離群點(diǎn)，減少了參數(shù)的輸入;2、針對局部離群點(diǎn)檢測計(jì)算量復(fù)雜問題，本文提出了利用鄰域要素:鄰域半徑的大小、規(guī)模、緊湊度共同來衡量鄰域密度的大小，從而替代局部可達(dá)密度;3、聚類不是專門用來檢測離群點(diǎn)，因而精確性又不夠;為了解決這一問題，本文提出了，將在聚類過程中產(chǎn)生的可