大規(guī)模鍵值分布式存儲系統(tǒng)的設(shè)計與實現(xiàn).pdf

1、隨著互聯(lián)網(wǎng)的不斷發(fā)展，全球網(wǎng)絡(luò)化的不斷普及，海量信息的不斷聚合，數(shù)據(jù)量保持指數(shù)級增長。面對當(dāng)前的海量數(shù)據(jù)，傳統(tǒng)的單機文件存儲系統(tǒng)并不能提供其所需要的存儲能力和高性能讀、寫需求，同時，傳統(tǒng)文件系統(tǒng)的擴展性不佳也使得當(dāng)數(shù)據(jù)業(yè)務(wù)需求發(fā)生變化時服務(wù)能力不足。鑒于此，本文中提出了一種新型的分布式鍵值存儲系統(tǒng)的架構(gòu)模型，該模型通過結(jié)合散列算法和一致性哈希算法，不僅解決了已有分布式系統(tǒng)中存在的擴展性問題和節(jié)點負載均衡問題，同時有效的避免了當(dāng)機器數(shù)目發(fā)

2、生改變時，數(shù)據(jù)移動代價過高的問題。本文的主要工作有：
　　第一，介紹了當(dāng)前管理海量數(shù)據(jù)的主要問題，以及本文的研究動機。
　　第二，詳細分析了已有的分布式存儲系統(tǒng)，包括 NFS系統(tǒng)，HDFS系統(tǒng)，DYNAMO系統(tǒng)等當(dāng)前比較主流的分布式文件存儲系統(tǒng)，這些系統(tǒng)的相關(guān)核心技術(shù)對于本文中設(shè)計的分布式存儲系統(tǒng)具有良好的借鑒性和參考性。
　　第三，在相關(guān)技術(shù)準(zhǔn)備完成后，本文設(shè)計了一種新的大規(guī)模鍵值分布式存儲系統(tǒng)的架構(gòu)方式，該系統(tǒng)使用

3、三層的架構(gòu)模式，同時在三層中都設(shè)計了良好的災(zāi)備方案，從前端服務(wù)器層，到最底層的數(shù)據(jù)節(jié)點層，都盡可能的在保證高效性的前提下設(shè)計了良好的災(zāi)備機制，雖然數(shù)據(jù)備份犧牲了一定的數(shù)據(jù)一致性，但仍可以很好的滿足應(yīng)用需求。
　　第四，完成系統(tǒng)設(shè)計后，本文中使用python語言對系統(tǒng)進行了仿真，將三層架構(gòu)分解為三個實現(xiàn)模塊，并將每一個模塊再次詳細拆分為不同功能的子模塊，使得整個系統(tǒng)的耦合性降到最低。
　　第五，為了保證系統(tǒng)的功能完備性和可靠性