基于FastDFS的重復數(shù)據(jù)管理技術(shù)的研究與實現(xiàn).pdf

1、隨著計算機技術(shù)的飛速發(fā)展,帶來的是數(shù)字信息量的爆炸式增長,尤其是在云存儲系統(tǒng)中,其數(shù)據(jù)量甚至達到PB級的規(guī)模。面對如此龐大的數(shù)據(jù)量,研究如何有效地發(fā)現(xiàn)和消除系統(tǒng)中的重復數(shù)據(jù)變得尤為重要。
　　數(shù)據(jù)分塊算法能夠快速高效地檢測出文件之間的重復數(shù)據(jù),是相同數(shù)據(jù)檢測技術(shù)的核心。針對現(xiàn)有的數(shù)據(jù)分塊算法分塊邊界不確定導致數(shù)據(jù)分塊過大和容易產(chǎn)生數(shù)據(jù)碎片的缺點,立足于消除系統(tǒng)中的硬分塊,平衡提高分塊算法的消重率和降低分塊算法的時間消耗之間的矛盾,

2、論文提出了基于預分塊的滑動窗口分塊算法SWCDC。SWCDC對文件內(nèi)容沒有發(fā)生變化的區(qū)域采用較大的分塊預期值進行分塊,而對文件內(nèi)容發(fā)生變化的區(qū)域采用較小的分塊預期值進行分塊。通過區(qū)分對待數(shù)據(jù)變動區(qū)域和非變動區(qū)域,SWCDC特別適用于對重復數(shù)據(jù)較多的系統(tǒng)進行重復數(shù)據(jù)管理。另外,在SWCDC的基礎(chǔ)上,為了降低數(shù)據(jù)分塊的元數(shù)據(jù)開銷,提出了基于合并的滑動窗口分塊算法ISWFDC。實驗結(jié)果表明,SWCDC和ISWFDC算法可以比傳統(tǒng)的分塊算法獲得

3、更高的消重性能。
　　針對現(xiàn)有的布隆過濾器在數(shù)據(jù)塊指紋集較大時查詢速度較慢,不能很好地適應云存儲環(huán)境下數(shù)據(jù)塊指紋集的動態(tài)增長這一問題,論文提出了動態(tài)布隆過濾器矩陣集合DBFMS。DBFMS通過將數(shù)據(jù)塊指紋集表示為s個tm的位矩陣,而不是st個m位的布隆過濾器位串,使檢索重復數(shù)據(jù)塊指紋的效率得到了顯著的提升。理論分析、仿真測試和實驗表明,DBFMS相對于傳統(tǒng)的靜態(tài)布隆過濾器以及動態(tài)布隆過濾器而言,其在可擴展性、查詢效率和假陽性概率方