基于SSD的海量URL數(shù)據(jù)多級存儲方法研究.pdf

1、全球信息化的程度越來越高且越來越快,每天產生的數(shù)據(jù)量已經難以估計,BigData的研究主題成為了國家戰(zhàn)略重點之一,未來是一個數(shù)據(jù)的時代。本課題主要關注互聯(lián)網(wǎng)數(shù)據(jù),為特定場景下的特定應用量體裁衣,設計訂制的存儲系統(tǒng),通過摒棄傳統(tǒng)數(shù)據(jù)庫系統(tǒng)的冗余特性,使得關鍵性能部分有更多的資源投入。
　　本課題的題目是基于SSD的海量URL數(shù)據(jù)多級存儲方法研究,研究的根本目的在于為在生命周期中涉及到URL數(shù)據(jù)的應用程序提供一個高性能的、支持良好的海

2、量數(shù)據(jù)規(guī)模管理的數(shù)據(jù)存儲方法和系統(tǒng),具體的常見應用場景有網(wǎng)絡爬蟲,網(wǎng)頁排序算法研究等等。為了設計一個可行的高效URL數(shù)據(jù)存儲系統(tǒng),同時考慮到現(xiàn)代硬件,尤其是存儲設備的工藝進步,本課題選擇使用固態(tài)硬盤作為信息存儲載體,利用硬件特性的優(yōu)勢,同時結合為其設計合適的索引方法,本文先圍繞三個基本問題做了工作,它們分別是:
　　(1)調研分析固態(tài)硬盤的數(shù)據(jù)訪問特性,總結現(xiàn)有的針對固態(tài)硬盤的改進方法的一般思路和方法,為存儲系統(tǒng)的設計奠定了基礎,

3、明確了存儲過程中各算法的改進方向;
　　(2)對URL數(shù)據(jù)的活動場景以及URL數(shù)據(jù)的數(shù)據(jù)特點進行統(tǒng)計分析,對URL存儲方法的所需的性能側重點有直觀的了解,確定了域名和路徑分開存儲的物理存儲方案,提出了基于概率的自適應緩存替換策略;
　　(3)分析當前海量存儲技術,尤其是非關系索引技術的優(yōu)缺點,同時考慮固態(tài)硬盤的特性之后,有選擇性的對COLA索引技術進行分析,最終確定了COLA索引作為固態(tài)硬盤索引的可行性。
　　最后結合