基于閃存固態(tài)盤的重復(fù)數(shù)據(jù)刪除技術(shù)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、隨著大數(shù)據(jù)時(shí)代的到來，飛速增長(zhǎng)的數(shù)據(jù)量給存儲(chǔ)系統(tǒng)帶來了巨大的挑戰(zhàn)。同時(shí)，以閃存Flash為代表的新型存儲(chǔ)介質(zhì)迅猛發(fā)展，給存儲(chǔ)系統(tǒng)注入了新的活力。閃存固態(tài)盤SSD有獨(dú)特的性能優(yōu)勢(shì)，但是使用壽命限制了其發(fā)展和應(yīng)用。根據(jù)SSD的特性，本文設(shè)計(jì)了重復(fù)數(shù)據(jù)刪除系統(tǒng)，將SSD與重復(fù)數(shù)據(jù)刪除技術(shù)結(jié)合，提升SSD的性能和使用壽命。
　　首先，現(xiàn)有的在SSD內(nèi)部實(shí)現(xiàn)重復(fù)數(shù)據(jù)刪除的研究都處于模擬階段，針對(duì)這種現(xiàn)狀，本文利用FPGA芯片在SSD的開發(fā)板

2、上實(shí)現(xiàn)了重復(fù)數(shù)據(jù)刪除系統(tǒng)，真實(shí)評(píng)估基于SSD的重復(fù)數(shù)據(jù)刪除系統(tǒng)的優(yōu)劣。根據(jù)硬件實(shí)現(xiàn)的特性，本文采用了分組指紋匹配和間接地址映射的策略。對(duì)重復(fù)數(shù)據(jù)刪除系統(tǒng)進(jìn)行評(píng)估時(shí)發(fā)現(xiàn)，傳統(tǒng)重復(fù)數(shù)據(jù)刪除機(jī)制的指紋計(jì)算開銷巨大，會(huì)成為SSD的性能瓶頸。
　　而后，針對(duì)傳統(tǒng)重復(fù)數(shù)據(jù)刪除的性能瓶頸問題，本文提出了一種新型弱指紋重刪機(jī)制NF-Dedupe，通過消除冗余數(shù)據(jù)，既改善了SSD的使用壽命，也提升了性能。這種機(jī)制采用計(jì)算開銷小的CRC32函數(shù)，計(jì)算

3、寫入的數(shù)據(jù)頁的弱指紋值。通過比較各個(gè)數(shù)據(jù)頁的弱指紋值找出可能重復(fù)的數(shù)據(jù)頁。對(duì)于寫入的頁，將與之可能重復(fù)的頁從Flash存儲(chǔ)中讀出，通過進(jìn)行字節(jié)級(jí)別的直接比較的方式，檢測(cè)是否為重復(fù)數(shù)據(jù)，而不是采用傳統(tǒng)的匹配指紋值的方式。通過模擬器來對(duì)NF-Dedupe進(jìn)行評(píng)估，實(shí)驗(yàn)結(jié)果顯示，NF-Dedupe優(yōu)于現(xiàn)有的其他重刪方法，實(shí)現(xiàn)了5.3％到29.9%的重刪率，消去了數(shù)據(jù)集中的大部分重復(fù)數(shù)據(jù)。同時(shí)，SSD的寫延遲最多提升了21%，平均提升了12%。