基于網頁分塊的論壇爬蟲關鍵技術研究.pdf

1、伴隨著Web2.0技術的發(fā)展，作為一種典型的用戶創(chuàng)建內容的應用，網絡論壇在全世界非常流行。每天有無數個針對能夠想象到的所有話題或問題的頁面被互聯網用戶創(chuàng)建，因此論壇數據實際上已成為承載人類知識的巨大數據集。隨著網絡論壇信息量的增大，論壇網頁收集工具的精確性和高效性都面臨著巨大的挑戰(zhàn)。在這種形勢下，迫切需要開發(fā)一套高效的論壇爬蟲系統。
　　本文圍繞著論壇爬蟲這一前沿技術，通過深入研究網絡論壇的特征，網絡爬蟲的工作原理和相關技術的基礎

2、上，把網頁分塊的思想引入到論壇爬蟲的爬行策略中以及在各種論壇中如何實現對不同論壇服務器的爬行，本文的主要成果可歸納為以下幾個方面：
　　本文在對網絡論壇進行大量調研和深入分析的基礎上,歸納總結出論壇的基本特征；接著對現有爬蟲爬行論壇時遇到的問題進行了分析，找出了引起這些問題的根源；為了解決這些問題，在主題爬蟲的一些爬行策略啟發(fā)下，把網頁分塊思想引入到論壇爬蟲中，并提出一些優(yōu)化論壇爬蟲的方法。
　　本文研究了網頁分塊的一些算法

3、，提出了適合論壇頁面的分塊算法——基于論壇頁面結構的垂直分塊算法(WPS-VSA)。實驗表明，這種算法有較好的通用性，而且對論壇頁面有很高的頁面分塊精度。
　　本文研究了網絡爬蟲的一些爬行策略，提出了適合大部分網絡論壇的通用論壇爬行算法——基于頁面分塊的論壇爬行算法(WPS-FCA)。利用此算法可以在線過濾無效頁面的鏈接；同時利用論壇頁面的特征解決了頁面翻頁問題，為那些利用論壇網頁內容的數據挖掘應用打下了良好的基礎。實驗表明，這種