利用網(wǎng)頁區(qū)域分割的聚焦爬蟲算法研究.pdf

1、隨著互聯(lián)網(wǎng)上數(shù)據(jù)的增長，通用的搜索引擎無法滿足不同背景用戶對于不同主題查全率的需求，垂直搜索引擎能夠聚焦于特定的主題，更全面地抓取和檢索與主題相關(guān)的網(wǎng)頁。垂直搜索引擎在各個(gè)領(lǐng)域都得到了廣泛的應(yīng)用，聚焦爬蟲是垂直搜索引擎的核心，成為近年來一個(gè)熱門的研究課題。
　　聚焦爬蟲需要抓取與主題相關(guān)的網(wǎng)頁，計(jì)算和預(yù)測網(wǎng)頁與主題的相關(guān)度是它的核心，主要包含三個(gè)方面：網(wǎng)頁解析、網(wǎng)頁相關(guān)度計(jì)算和鏈接優(yōu)先度計(jì)算。在網(wǎng)頁解析方面，提出了基于網(wǎng)頁區(qū)域分割

2、的正文抽取算法，該方法利用網(wǎng)頁中重復(fù)的標(biāo)簽格式將網(wǎng)頁劃分為多個(gè)區(qū)域，利用區(qū)域的結(jié)構(gòu)特征過濾噪聲區(qū)域，基于網(wǎng)頁正文標(biāo)題的位置和區(qū)域文本特征確定正文區(qū)域。在計(jì)算網(wǎng)頁的主題相關(guān)度時(shí)，使用分類算法，分別基于URL和標(biāo)簽文本訓(xùn)練分類器，利用投票法將分類器的分類結(jié)果結(jié)合起來。在計(jì)算鏈接的優(yōu)先度時(shí)，按照網(wǎng)頁分類的結(jié)果將與主題無關(guān)的網(wǎng)頁過濾，針對主題相關(guān)的網(wǎng)頁，對該網(wǎng)頁中的區(qū)域繼續(xù)進(jìn)行分類，過濾掉主題無關(guān)的區(qū)域，結(jié)合網(wǎng)頁的鏈接結(jié)構(gòu)信息和區(qū)域分類的結(jié)果計(jì)