主題爬蟲搜索策略及關(guān)鍵技術(shù)研究.pdf

1、主題網(wǎng)絡(luò)爬蟲是主題搜索引擎的關(guān)鍵技術(shù)。主題爬蟲能夠智能地采集與特定主題相關(guān)的網(wǎng)頁，而避免不相關(guān)網(wǎng)頁的訪問；主題爬蟲的提出與運用能夠極大緩解目前基于通用網(wǎng)絡(luò)爬蟲的搜索引擎中搜索覆蓋率低，搜索精度低、網(wǎng)頁更新不及時而無法滿足用戶的個性化需求的問題。主題爬蟲的核心難點是預(yù)測未訪問鏈接的主題相關(guān)度。目前比較經(jīng)典的主題爬蟲中普遍采用向量空間模型來計算網(wǎng)頁內(nèi)容的主題相關(guān)度，這種方法沒有考慮到主題詞項的語義信息；在網(wǎng)頁內(nèi)容相關(guān)性分析鏈接上下文時，往往

2、引入噪音，不能準(zhǔn)確反應(yīng)主題相關(guān)性；在結(jié)合鏈接結(jié)構(gòu)分析和內(nèi)容相似性分析時考慮因素不全，只是二者分值相加；在主題爬取過程中沒有考慮隧道特征，或者引入隧道方法不佳導(dǎo)致大量非相關(guān)網(wǎng)頁被下載。
　　為了解決上述問題，本文研究工作如下：
　　(1)本文在原有向量空間模型的基礎(chǔ)上，還考慮關(guān)鍵詞項的語義相似度，提出了基于詞項語義相似度的向量空間模型(TSSVSM)。本文主題爬蟲算法將利用TSSVSM模型計算網(wǎng)頁文本與主題的相似度。
　

3、　(2)本文在分析隧道特征的基礎(chǔ)上，提出了自適應(yīng)隧道穿越方法，此方法能夠網(wǎng)頁內(nèi)容和穿越路徑的相關(guān)性綜合動態(tài)計算隧道穿越的距離，從而在獲得更多主題相關(guān)網(wǎng)頁的前提下減少無關(guān)網(wǎng)頁的訪問。
　　(3)本文分析了鏈接上下文的局限性，在計算內(nèi)容相似度時去掉鏈接上下文因素而加入網(wǎng)頁標(biāo)題因素，網(wǎng)頁內(nèi)容相似度由網(wǎng)頁標(biāo)題、網(wǎng)頁文本和錨文本綜合決定，然后對OPIC算法進行改進，提出了依據(jù)網(wǎng)頁內(nèi)容相似度大小進行不平均分配現(xiàn)金值的NOS算法。
　　(