Web信息集成中數(shù)據(jù)清洗的研究.pdf

1、數(shù)據(jù)清洗的需求由來(lái)己久，對(duì)數(shù)據(jù)清洗技術(shù)的研究一直是數(shù)據(jù)管理領(lǐng)域及其相關(guān)領(lǐng)域中一個(gè)非常熱門的課題。本文主要研究的是在Web信息集成過(guò)程中“臟數(shù)據(jù)”問(wèn)題的解決方法，重點(diǎn)研究了重復(fù)記錄檢測(cè)及其相關(guān)算法，為消除臟數(shù)據(jù)、保證集成數(shù)據(jù)的質(zhì)量提供了一套解決方案。 本文首先論述了數(shù)據(jù)質(zhì)量的定義及其相關(guān)概念，總結(jié)了數(shù)據(jù)清洗技術(shù)的原理，數(shù)據(jù)清洗的方法，并給出數(shù)據(jù)清洗的評(píng)價(jià)標(biāo)準(zhǔn)。針對(duì)數(shù)據(jù)清洗的一般步驟，提出數(shù)據(jù)清洗的框架一種是與領(lǐng)域無(wú)關(guān)的基于元數(shù)據(jù)的

2、數(shù)據(jù)清洗框架，一種是基于領(lǐng)域知識(shí)的數(shù)據(jù)清洗框架。此外還分別對(duì)不完整數(shù)據(jù)，異常數(shù)據(jù)和重復(fù)記錄的數(shù)據(jù)清洗技術(shù)進(jìn)行了研究，給出了它們的定義，實(shí)例，清洗的一般步驟，基本流程，可采用的清洗方法。 本文就重復(fù)記錄清洗中各個(gè)步驟所涉及的關(guān)鍵算法進(jìn)行了研究，主要包括基于編輯距離的字段匹配算法，記錄匹配的Palr-Wise比較算法，重復(fù)記錄檢測(cè)的SNM算法，給出了算法的基本思想，算法復(fù)雜度分析。并針對(duì)SNM算法進(jìn)行了改進(jìn)。本文還給出了重復(fù)記錄合并

3、/刪除的規(guī)則。 根據(jù)Web信息集成中Web數(shù)據(jù)的特點(diǎn)，給出了基于Web的數(shù)據(jù)清洗框架，該框架主要是利用XML特點(diǎn)，在XML對(duì)數(shù)據(jù)庫(kù)映射的同時(shí)進(jìn)行數(shù)據(jù)清洗的預(yù)處理，即對(duì)數(shù)據(jù)進(jìn)行元素化，標(biāo)準(zhǔn)化，提高數(shù)據(jù)清洗的效率。利用前面研究的重復(fù)記錄清洗的算法，對(duì)Web信息抽取后的數(shù)據(jù)進(jìn)行了重復(fù)記錄的檢測(cè)，并根據(jù)實(shí)驗(yàn)結(jié)果進(jìn)行了相關(guān)分析。 本文最后提出了一種基于中文的重復(fù)記錄檢測(cè)方法，主要是根據(jù)漢語(yǔ)的特點(diǎn)，在匹配前進(jìn)行中文分詞和語(yǔ)義匹配，以