基于鄰域要素的局部密度離群點(diǎn)檢測(cè).pdf

1、現(xiàn)今的大多數(shù)數(shù)據(jù)挖掘算法更偏重于發(fā)現(xiàn)大部分?jǐn)?shù)據(jù)的模式匹配，卻不太深入研究那些偏離模式的特殊數(shù)據(jù)對(duì)象。然而恰恰就是這些罕見(jiàn)事件、特殊對(duì)象、異常信息的價(jià)值有時(shí)候往往會(huì)比正常的數(shù)據(jù)對(duì)象更具有研究?jī)r(jià)值，更受人們青睞。例如異常銀行卡取錢(qián)當(dāng)中，人們并不關(guān)心正常額度的取款信息，而更加看重那種大額等異常取款信息;在流量信息分析中，人們可以通過(guò)檢測(cè)異常流量信息來(lái)推斷是否足中病毒;在病例圖像分析中，人們可以通過(guò)檢測(cè)異常像素點(diǎn)來(lái)推測(cè)是否為癌癥患者等等。從上面

2、的描述可以看出，離群點(diǎn)應(yīng)該是具有研究?jī)r(jià)值、特殊意義的數(shù)據(jù)對(duì)象，而不是由于數(shù)據(jù)冗余、數(shù)據(jù)缺失等原因產(chǎn)生的噪聲。Hawkins認(rèn)為離群點(diǎn)是另一種機(jī)制產(chǎn)生的不同信號(hào);它偏離了正常的觀測(cè)信號(hào)。
　　 為了發(fā)現(xiàn)這類(lèi)有研究意義的離群點(diǎn)，人們先后提出了基于統(tǒng)計(jì)的離群點(diǎn)檢測(cè)方法、基于距離的離群點(diǎn)檢測(cè)方法、基于密度的離群點(diǎn)檢測(cè)方法、基于深度的離群點(diǎn)檢測(cè)方法、基于偏差的離群點(diǎn)檢測(cè)方法、基于聚類(lèi)的離群點(diǎn)檢測(cè)方法。其中基于密度的離群點(diǎn)檢測(cè)方法尤為出色，

3、它從局部出發(fā)，從對(duì)象的鄰居來(lái)看待其孤立情況。算法可以檢測(cè)各種形狀的簇，同時(shí)也適合于全局情況。但該算法計(jì)算量復(fù)雜，這個(gè)致命缺點(diǎn)使得算法不適合比較大的數(shù)據(jù)集。為了將局部離群點(diǎn)檢測(cè)方法用于現(xiàn)實(shí)牛活中，對(duì)此，人們又提出了用鄰域半徑來(lái)衡量局部可達(dá)密度，用以減少計(jì)算量。然而，這種思想只是粗糙的度量了鄰域的密度，精確度不夠。
　　 針對(duì)以上一些問(wèn)題，本文提出了基于鄰域要素的局部密度離群點(diǎn)檢測(cè)算法。基于以前方法存在的問(wèn)題，本文進(jìn)行了如下研究:1

4、、針對(duì)局部離群點(diǎn)檢測(cè)不適于大數(shù)據(jù)集問(wèn)題，提出了利用基于微粒群和變異模糊c均值算法相結(jié)合的聚類(lèi)算法撇除一大部分非離群點(diǎn)，從而減少可疑離群點(diǎn)規(guī)模;并且將離群因子中最大的前m個(gè)作為離群點(diǎn)，減少了參數(shù)的輸入;2、針對(duì)局部離群點(diǎn)檢測(cè)計(jì)算量復(fù)雜問(wèn)題，本文提出了利用鄰域要素:鄰域半徑的大小、規(guī)模、緊湊度共同來(lái)衡量鄰域密度的大小，從而替代局部可達(dá)密度;3、聚類(lèi)不是專(zhuān)門(mén)用來(lái)檢測(cè)離群點(diǎn)，因而精確性又不夠;為了解決這一問(wèn)題，本文提出了，將在聚類(lèi)過(guò)程中產(chǎn)生的可