云環(huán)境下海量小文件存儲(chǔ)技術(shù)的研究與應(yīng)用.pdf

1、大數(shù)據(jù)時(shí)代的到來(lái)，導(dǎo)致人類所產(chǎn)生的信息數(shù)據(jù)量以井噴的形勢(shì)洶涌而來(lái)，尤其是像圖片、郵件、電子檔案這類的海量小文件。傳統(tǒng)的存儲(chǔ)技術(shù)已經(jīng)無(wú)法適應(yīng)大數(shù)據(jù)時(shí)代海量文件的存儲(chǔ)需求，如何高效地應(yīng)對(duì)海量小文件的存儲(chǔ)是當(dāng)前技術(shù)領(lǐng)域一個(gè)有待解決的問(wèn)題。大數(shù)據(jù)與云計(jì)算相伴相隨，而云存儲(chǔ)則是在云計(jì)算的概念之上產(chǎn)生出來(lái)的，它是云計(jì)算的發(fā)展和延生，它具有響應(yīng)速度快，管理高效，結(jié)構(gòu)靈活多變等優(yōu)點(diǎn)，已經(jīng)成為世界各國(guó)解決數(shù)據(jù)爆炸性增長(zhǎng)的重要解決方案。因此，云環(huán)境下海量小

2、文件處理技術(shù)是一個(gè)重要的課題。
　　本文深入分析了HADDOP分布式文件系統(tǒng)(HDFS)的工作原理，重點(diǎn)討論了它作為現(xiàn)如今炙手可熱的云存儲(chǔ)平臺(tái)，具有的開(kāi)源、高容錯(cuò)、可擴(kuò)展性強(qiáng)和成本相對(duì)節(jié)約的優(yōu)點(diǎn)。同時(shí)針對(duì)目前的應(yīng)用環(huán)境和需求，提出了海量小文件存儲(chǔ)這一現(xiàn)實(shí)性的問(wèn)題，結(jié)合HADOOP架構(gòu)自身的主從結(jié)構(gòu)和元數(shù)據(jù)存儲(chǔ)方式，提出了它在處理海量小文件的時(shí)候會(huì)出現(xiàn)存取時(shí)間長(zhǎng)和NameNode節(jié)點(diǎn)內(nèi)存占有率高這兩個(gè)方面的問(wèn)題。為了解決這一問(wèn)題，本

3、文研究了現(xiàn)有的小文件處理方法，分析了各自的優(yōu)缺點(diǎn)之后，提出了一個(gè)云環(huán)境下小文件問(wèn)題的通用解決方案，具有獨(dú)立小文件處理模塊的分布式文件系統(tǒng)。這一架構(gòu)是在現(xiàn)有的分布式文件系統(tǒng)之前加入小文件處理模塊來(lái)實(shí)現(xiàn)小文件的合并、分離、緩存等功能，進(jìn)而再交由傳統(tǒng)HDFS進(jìn)行處理，既不改變?cè)械募軜?gòu)，也不影響對(duì)大文件的和合并后的小文件的處理，從而提高整個(gè)系統(tǒng)對(duì)小文件的存取效率。進(jìn)一步提出了相適應(yīng)的的元數(shù)據(jù)類型與結(jié)構(gòu)，通過(guò)分組算法、合并算法、檢索算法和緩存方