Hadoop下基于分類和關(guān)聯(lián)規(guī)則的公安數(shù)據(jù)挖掘研究.pdf

1、隨著警務(wù)信息化建設(shè)的力度逐年增大，公安內(nèi)部累積了海量的業(yè)務(wù)數(shù)據(jù)，越來越多的公安科技部門發(fā)現(xiàn)，傳統(tǒng)的數(shù)據(jù)庫技術(shù)已經(jīng)出現(xiàn)疲軟，相關(guān)情報(bào)研判和案件偵破的速度與智慧城市之間的矛盾日益突出，智慧公安成為緩解這一矛盾的關(guān)鍵。公安大數(shù)據(jù)挖掘技術(shù)是實(shí)現(xiàn)智慧公安的基礎(chǔ)，高效、準(zhǔn)確的大數(shù)據(jù)分析技術(shù)對(duì)公安部門的警情分析、預(yù)警、犯罪預(yù)測(cè)等具有重要意義。近幾年，由于Hadoop強(qiáng)大的存儲(chǔ)技術(shù)和計(jì)算能力，使其在全球范圍內(nèi)得到了飛速發(fā)展，這也為公安大數(shù)據(jù)挖掘提供了新

2、的契機(jī)。
　　論文在大量查閱國內(nèi)外文獻(xiàn)，深入研究公安數(shù)據(jù)特性及數(shù)據(jù)挖掘算法的基礎(chǔ)上，根據(jù)公安科技部門的實(shí)際需求，對(duì)公安大數(shù)據(jù)挖掘中的文本分類和關(guān)聯(lián)規(guī)則進(jìn)行了重點(diǎn)研究，提出了差分多層KNN分類算法和基于規(guī)則加權(quán)的多數(shù)據(jù)集時(shí)態(tài)關(guān)聯(lián)規(guī)則算法，并通過實(shí)驗(yàn)驗(yàn)證了算法的有效性。為此，論文的研究?jī)?nèi)容主要集中在以下幾點(diǎn):
　　(1)提出了一種基于分層和差分的改進(jìn)算法——DMKNN算法。針對(duì)KNN算法在處理公安數(shù)據(jù)時(shí)無效計(jì)算量大的問題，改進(jìn)后

3、的算法對(duì)訓(xùn)練數(shù)據(jù)集構(gòu)建樹狀分層結(jié)構(gòu)，僅對(duì)高層篩選后的訓(xùn)練集進(jìn)行相似度計(jì)算，同時(shí)針對(duì)大數(shù)據(jù)量下的類域交叉性特點(diǎn)，采用了差分和動(dòng)態(tài)增加類別的方法來有效的防止最近鄰和次近鄰的誤判情況，實(shí)驗(yàn)結(jié)果表明該算法與傳統(tǒng)KNN算法相比在對(duì)樣本容量大，涉及鄰域多的公安數(shù)據(jù)進(jìn)行分類時(shí)能取得較好的分類效果。
　　(2)實(shí)現(xiàn)了Hadoop平臺(tái)下的DMKNN文本分類算法。結(jié)合文本分類并行化方案，實(shí)現(xiàn)了DMKNN分類算法的MapReduce并行化，最后進(jìn)行了基

4、于DMKNN算法的公安情報(bào)并行化分類實(shí)驗(yàn)，實(shí)驗(yàn)證明并行化后的改進(jìn)算法具有很好的加速比性能。
　　(3)提出了基于規(guī)則加權(quán)的多數(shù)據(jù)集時(shí)態(tài)關(guān)聯(lián)規(guī)則算法。首先將各個(gè)子數(shù)據(jù)集中的時(shí)態(tài)關(guān)聯(lián)規(guī)則的時(shí)態(tài)因素分別進(jìn)行區(qū)間歸并和延展，并利用有效投票率對(duì)規(guī)則進(jìn)行剪輯，然后對(duì)剪輯后的各個(gè)同類子數(shù)據(jù)庫中的規(guī)則進(jìn)行加權(quán)合成來得到最終提交的全局時(shí)態(tài)關(guān)聯(lián)規(guī)則，隨后以實(shí)例分析的方式實(shí)現(xiàn)了算法的挖掘過程。最后的犯罪預(yù)測(cè)實(shí)驗(yàn)證明該算法不僅可以用于不同數(shù)據(jù)庫間的關(guān)聯(lián)挖