中文網頁查重方法研究.pdf

1、當今中國，隨著互聯(lián)網的普及和網絡終端的高速發(fā)展，網絡已經深入到了人們生活的方方面面。面對海量的網絡信息，搜索引擎的出現(xiàn)極大的方便了普通用戶的操作，但大量的重復或近似網頁使得用戶對搜索結果不甚滿意。如何有效的查找并去除這些重復或近似的網頁，提高搜索的效率，已經成為一種迫切的需要。在這種形勢下，網頁查重技術得到了極大發(fā)展。
　　 當前的查重方法主要是針對英文等字母體系的語言，中文由于語言的復雜性，在網頁的查重問題上存在著較大的困難。

2、本文主要研究搜索引擎中中文網頁查重的問題，借鑒了計算生物學的序列比對技術，提出了一種基于詞性標注(POS)和最長公共子序列(LCS)相結合的網頁查重方法。論文主要工作如下：
　　 (1)介紹了網頁查重技術的起源以及常見的網頁查重方法，并對其特點進行了對比分析，理清了論文研究的方向和思路。
　　 (2)對網頁預處理技術進行了研究，重點對網頁正文提取技術和中文語言體系進行了分析，并對中文分詞和詞性標注方法進行仔細比較。著重對

3、基于隱馬爾可夫模型的分詞和詞性標注進行了認真學習和研究，為選擇合適的分詞和詞性標注方法奠定了基礎。
　　 (3)闡述了計算生物學領域的序列比對技術的思想，對序列比對算法(特別是動態(tài)規(guī)劃算法)進行了認真研究，最終決定把LCS的動態(tài)規(guī)劃算法作為研究使用的網頁相似度計算方法。
　　 (4)對基于Lucene建立全文搜索平臺的流程和方法進行了認真學習，將ICTCLAS內嵌到Lucene的分詞模塊中，搭建了基于Lucene和JSP