基于網(wǎng)頁(yè)分塊的主題爬蟲(chóng)方法研究.pdf

1、隨著網(wǎng)絡(luò)上信息的爆炸式增長(zhǎng)，普通搜索引擎的查詢結(jié)果越來(lái)越不能滿足用戶查詢的需要，尤其是那些查詢特定信息的不同領(lǐng)域、不同背景的用戶，因此適應(yīng)特定主題和個(gè)性化搜索的垂直搜索引擎應(yīng)運(yùn)而生。
　　主題爬蟲(chóng)作為垂直搜索引擎的核心組成部分，其抓取的網(wǎng)頁(yè)的質(zhì)量好壞直接影響垂直搜索引擎的返回結(jié)果。如何判斷下載的網(wǎng)頁(yè)與目標(biāo)主題的相關(guān)度和如何確定待爬行隊(duì)列中URL的訪問(wèn)優(yōu)先級(jí)是主題爬蟲(chóng)中影響抓取的網(wǎng)頁(yè)質(zhì)量的關(guān)鍵因素；同時(shí)由于Web頁(yè)面的結(jié)構(gòu)特性，致使

2、主題爬蟲(chóng)在爬行過(guò)程中存在“隧道”現(xiàn)象，它的存在將會(huì)對(duì)爬行的覆蓋率和準(zhǔn)確率造成較大的影響。
　　本文利用網(wǎng)頁(yè)分塊判斷主題相關(guān)度和最佳優(yōu)先搜索策略的優(yōu)勢(shì)，同時(shí)為了克服“隧道”現(xiàn)象，提出了一種基于網(wǎng)頁(yè)分塊的主題爬蟲(chóng)方法：
　?、賹⒎诸惼鞯乃枷霊?yīng)用到主題爬蟲(chóng)中，訓(xùn)練出了針對(duì)主題爬蟲(chóng)的類中心向量分類器，該分類器主要用于確定網(wǎng)頁(yè)或網(wǎng)頁(yè)塊的主題類別和它們之間的相似度，其突出的優(yōu)點(diǎn)是可以較好的描述用戶感興趣的主題，分類速度快，能提高爬行的速

3、度；
　?、谠诰W(wǎng)頁(yè)塊內(nèi)考慮URL的差異，將塊內(nèi)的URL分為特殊URL和普通URL進(jìn)行訪問(wèn)優(yōu)先級(jí)預(yù)測(cè)，從而提高預(yù)測(cè)的準(zhǔn)確性，克服由于預(yù)測(cè)不準(zhǔn)確帶來(lái)的相關(guān)網(wǎng)頁(yè)被忽略的問(wèn)題；
　?、弁ㄟ^(guò)在網(wǎng)頁(yè)塊內(nèi)引用類間轉(zhuǎn)移概率，克服爬行過(guò)程中存在的“黑色隧道”現(xiàn)象，通過(guò)利用網(wǎng)頁(yè)分塊的思想，克服爬行過(guò)程中存在的“灰色隧道”現(xiàn)象。
　　最后從DMOZ目錄中選取3種不同的目標(biāo)主題對(duì)基于本文提出的方法和已存在的基于文字內(nèi)容的方法及基于分類器的方法