中文網(wǎng)頁查重方法研究.pdf

1、當(dāng)今中國，隨著互聯(lián)網(wǎng)的普及和網(wǎng)絡(luò)終端的高速發(fā)展，網(wǎng)絡(luò)已經(jīng)深入到了人們生活的方方面面。面對海量的網(wǎng)絡(luò)信息，搜索引擎的出現(xiàn)極大的方便了普通用戶的操作，但大量的重復(fù)或近似網(wǎng)頁使得用戶對搜索結(jié)果不甚滿意。如何有效的查找并去除這些重復(fù)或近似的網(wǎng)頁，提高搜索的效率，已經(jīng)成為一種迫切的需要。在這種形勢下，網(wǎng)頁查重技術(shù)得到了極大發(fā)展。
　　 當(dāng)前的查重方法主要是針對英文等字母體系的語言，中文由于語言的復(fù)雜性，在網(wǎng)頁的查重問題上存在著較大的困難。

2、本文主要研究搜索引擎中中文網(wǎng)頁查重的問題，借鑒了計(jì)算生物學(xué)的序列比對技術(shù)，提出了一種基于詞性標(biāo)注(POS)和最長公共子序列(LCS)相結(jié)合的網(wǎng)頁查重方法。論文主要工作如下：
　　 (1)介紹了網(wǎng)頁查重技術(shù)的起源以及常見的網(wǎng)頁查重方法，并對其特點(diǎn)進(jìn)行了對比分析，理清了論文研究的方向和思路。
　　 (2)對網(wǎng)頁預(yù)處理技術(shù)進(jìn)行了研究，重點(diǎn)對網(wǎng)頁正文提取技術(shù)和中文語言體系進(jìn)行了分析，并對中文分詞和詞性標(biāo)注方法進(jìn)行仔細(xì)比較。著重對

3、基于隱馬爾可夫模型的分詞和詞性標(biāo)注進(jìn)行了認(rèn)真學(xué)習(xí)和研究，為選擇合適的分詞和詞性標(biāo)注方法奠定了基礎(chǔ)。
　　 (3)闡述了計(jì)算生物學(xué)領(lǐng)域的序列比對技術(shù)的思想，對序列比對算法(特別是動(dòng)態(tài)規(guī)劃算法)進(jìn)行了認(rèn)真研究，最終決定把LCS的動(dòng)態(tài)規(guī)劃算法作為研究使用的網(wǎng)頁相似度計(jì)算方法。
　　 (4)對基于Lucene建立全文搜索平臺(tái)的流程和方法進(jìn)行了認(rèn)真學(xué)習(xí)，將ICTCLAS內(nèi)嵌到Lucene的分詞模塊中，搭建了基于Lucene和JSP