基于區(qū)域劃分的改進(jìn)KNN分類算法.pdf

1、數(shù)據(jù)分類是數(shù)據(jù)挖掘的重要組成部分，主要用來(lái)提取用于判定數(shù)據(jù)對(duì)象類型的模型。數(shù)據(jù)分類的目標(biāo)是構(gòu)造一個(gè)分類器，來(lái)預(yù)測(cè)數(shù)據(jù)對(duì)象的類別。KNN是一種比較常用的分類算法，準(zhǔn)確率高，原理簡(jiǎn)單，實(shí)現(xiàn)起來(lái)方便，并且能夠?qū)ΤS數(shù)據(jù)空間建模。但是直接在訓(xùn)練集上使用KNN算法，計(jì)算量較大，并且隨著數(shù)據(jù)對(duì)象數(shù)量和維數(shù)的增加，計(jì)算量呈指數(shù)增長(zhǎng)。
　　為了提高KNN算法的效率，針對(duì)不同的應(yīng)用場(chǎng)景，本文提出了基于超球區(qū)域劃分和基于超長(zhǎng)方體區(qū)域劃分兩種不同的KN

2、N改進(jìn)算法。在訓(xùn)練階段，根據(jù)訓(xùn)練樣本的分布情況，使用某種區(qū)域劃分方法將訓(xùn)練樣本空間劃分成若干個(gè)區(qū)域，并在劃分區(qū)域的基礎(chǔ)上構(gòu)造基于區(qū)域劃分的初級(jí)分類器；在測(cè)試分類階段，利用初級(jí)分類器確定待測(cè)樣本的新訓(xùn)練集，然后在新訓(xùn)練集上使用KNN算法確定待測(cè)樣本的類別。由于新訓(xùn)練集中樣本數(shù)量小于原始訓(xùn)練集中的樣本數(shù)量，因此測(cè)試分類階段KNN算法的計(jì)算量會(huì)大大下降。在基于超球區(qū)域劃分的改進(jìn)算法中，使用模擬退火算法來(lái)控制初級(jí)分類器中超球的數(shù)量，從而降低算法