版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
1、網(wǎng)絡(luò)爬蟲技術(shù),為獲取互聯(lián)網(wǎng)中的數(shù)據(jù)提供最為便捷的方式,它不僅是傳統(tǒng)搜索引擎公司的底層基礎(chǔ),也是大數(shù)據(jù)時代獲取web數(shù)據(jù)的利器。近年來,隨著互聯(lián)網(wǎng)技術(shù)的迅猛發(fā)展,web數(shù)據(jù)呈指數(shù)級增長,面對獲取海量web數(shù)據(jù)的需求,單機網(wǎng)絡(luò)爬蟲技術(shù)不再實用,因此,采用分布式的網(wǎng)絡(luò)爬蟲技術(shù)成為獲取海量web數(shù)據(jù)的先決條件。
隨著web前端技術(shù)的發(fā)展,反爬蟲技術(shù)的增強,系統(tǒng)復(fù)雜性的增大,爬蟲爬取數(shù)據(jù)時還存在一些問題:獲取動態(tài)網(wǎng)頁數(shù)據(jù)的問題,反網(wǎng)絡(luò)爬
2、蟲的問題,集群穩(wěn)定性的問題。這些問題,嚴重影響了爬蟲系統(tǒng)獲取目標數(shù)據(jù)(用戶所需要的數(shù)據(jù))的效率。本文在分布式網(wǎng)絡(luò)爬蟲的基礎(chǔ)上,針對這些問題,進行研究并設(shè)計解決方案。本文主要工作如下:
(1)獲取動態(tài)網(wǎng)頁數(shù)據(jù)方面:互聯(lián)網(wǎng)中存在大量異步加載的動態(tài)網(wǎng)頁數(shù)據(jù),這些數(shù)據(jù)是普通網(wǎng)絡(luò)爬蟲不能直接獲取的。目前程序切片方法[21]存在算法復(fù)雜度高和精確度低等缺陷,而調(diào)用瀏覽器API的方法[15][16]存在爬取效率低的缺陷。本文提出了一種基于規(guī)
3、則庫的方法,將網(wǎng)頁分類處理,可以獲取動態(tài)網(wǎng)頁和靜態(tài)網(wǎng)頁數(shù)據(jù),避免了算法復(fù)雜度高和精確度低的缺陷,提高了爬取數(shù)據(jù)效率。
(2)應(yīng)對反網(wǎng)絡(luò)爬蟲方面:大多數(shù)公司會對其網(wǎng)站的數(shù)據(jù)進行保護,采用各種技術(shù)手段,以防止被肆意抓取數(shù)據(jù)。目前解決反爬蟲的策略[13][18],不能應(yīng)對爬取少量站點中的大量數(shù)據(jù)。本文設(shè)計了IP代理池策略和類人爬取策略,這些策略采用隨機更換代理IP的方法和模仿人訪問目標站點的方法,可以繞過反爬蟲機制。
(3
4、)集群穩(wěn)定性方面:復(fù)雜的集群系統(tǒng)在長期運行中,可能會出現(xiàn)節(jié)點不能正常工作或者退出集群系統(tǒng)的現(xiàn)象。目前維護集群穩(wěn)定性的策略[15][48]存在功能簡單、丟失任務(wù)等缺陷。本文設(shè)計了心跳檢測策略和記錄丟失任務(wù)策略,通過定時監(jiān)測節(jié)點發(fā)送的各種消息以及檢測丟失的任務(wù),解決節(jié)點不正常工作、掉線以及任務(wù)丟失等問題。
(4)經(jīng)濟成本方面:本文設(shè)計的爬蟲系統(tǒng)基于靈活訂制的開源框架,可以自由刪減不必要的功能,從而實現(xiàn)輕量級的系統(tǒng),使得集群節(jié)點可以
5、運行在樹莓派(只有信用卡大小的微型電腦,其系統(tǒng)基于Linux)之上,為搭建集群降低了經(jīng)濟成本,以便該系統(tǒng)更實用于預(yù)算相對緊張的科研機構(gòu)、以及中小型企業(yè)。
最后,通過設(shè)置對比實驗,本文設(shè)計的40個節(jié)點的分布式爬蟲集群,相比參照實驗的單機40個線程的爬蟲,性能至少提高了3-4倍,成本節(jié)省了30%;在獲取動態(tài)網(wǎng)頁數(shù)據(jù)方面,設(shè)置了本文設(shè)計策略和參考文獻策略[15]的對比試驗,實驗表明消耗時間減少了約39%;在系統(tǒng)穩(wěn)定性和反爬蟲方面,設(shè)
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 利用Nutch研究與實現(xiàn)支持Ajax動態(tài)網(wǎng)頁的網(wǎng)絡(luò)爬蟲系統(tǒng).pdf
- 分布式網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 分布式書籍網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 分布式聚焦網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 基于Groovy的分布式網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 支持AJAX的分布式爬蟲系統(tǒng)的研究與實現(xiàn).pdf
- 分布式主題網(wǎng)絡(luò)爬蟲的設(shè)計與實現(xiàn).pdf
- 基于分布式的網(wǎng)絡(luò)爬蟲系統(tǒng)的研究與實現(xiàn).pdf
- 分布式網(wǎng)絡(luò)爬蟲的研究與實現(xiàn).pdf
- 基于Hadoop的分布式網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 分布式網(wǎng)絡(luò)爬蟲技術(shù)的研究與實現(xiàn).pdf
- 分布式視頻搜索爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 動態(tài)網(wǎng)絡(luò)的分布式控制分析.pdf
- 分布式網(wǎng)絡(luò)爬蟲的設(shè)計與實現(xiàn)——分布式算法研究和系統(tǒng)架構(gòu)設(shè)計---畢業(yè)論文
- 分布式在線圖書爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 分布式網(wǎng)絡(luò)爬蟲技術(shù)研究與實現(xiàn).pdf
- 基于hadoop的分布式網(wǎng)絡(luò)爬蟲研究與實現(xiàn).pdf
- 基于分布式的商品信息網(wǎng)絡(luò)爬蟲系統(tǒng)的設(shè)計與實現(xiàn).pdf
- 大規(guī)模動態(tài)網(wǎng)絡(luò)的分布式位置管理技術(shù).pdf
- 基于高實時分布式網(wǎng)絡(luò)的爬蟲軟件設(shè)計與實現(xiàn).pdf
評論
0/150
提交評論