K-近鄰分類的改進算法研究.pdf

1、K-近鄰算法作為一種理論上比較成熟且簡單有效的分類算法,已經(jīng)得到了廣泛的研究和應用。但是K-近鄰算法易受噪聲影響且不能處理多模態(tài)分布的問題;另外傳統(tǒng)K-近鄰算法認為每個屬性對分類的重要程度是一樣的,所以并未對屬性進行約簡,且在距離函數(shù)中對每個屬性賦予了相同的權重,這樣得到的近鄰樣本是不準確的,會干擾待分類樣本的類別判斷。
　　針對上述問題,本文首先提出了融合互近鄰和可信度的K-近鄰改進算法(MKNNCF)。第一步,根據(jù)互近鄰的概念

2、刪除噪聲數(shù)據(jù),提高數(shù)據(jù)的質量;然后,利用由近鄰誘導待分類樣本標簽的可信度,避免待分類樣本近鄰中大類吃小類的概率。實驗結果表明,本算法在分類精度上優(yōu)于或相當于傳統(tǒng)的KNN及其他經(jīng)典的分類算法。
　　MKNNCF算法雖然一定程度上提高了K-近鄰分類算法的分類精度,但是并未考慮不同屬性對分類貢獻度的差異性。為了進一步提高分類速度和分類的準確率,提出了先對屬性約簡,之后再對屬性加權的改進算法(MIMKNN)。首先,引入鄰域互信息用以度量條