面向高并發(fā)小包數(shù)據(jù)分布式存儲系統(tǒng)的設(shè)計與實現(xiàn).pdf

1、近年來，由于物聯(lián)網(wǎng)、基于大數(shù)據(jù)的推薦系統(tǒng)等概念的興起，對大量高并發(fā)、海量小塊數(shù)據(jù)的存儲問題提出了新的挑戰(zhàn)。
　　本系統(tǒng)放棄了分布式系統(tǒng)中較常用的帶有中心節(jié)點的結(jié)構(gòu)設(shè)計，采用了一種基于Gossip協(xié)議的P2P對等節(jié)點的結(jié)構(gòu)。中心節(jié)點式結(jié)構(gòu)設(shè)計，由于單點故障、中心熱點等問題的存在，對系統(tǒng)硬件的配置以及維護成本有較大要求。本文從數(shù)據(jù)分流、降低成本等角度考慮，圍繞P2P結(jié)構(gòu)，參考業(yè)內(nèi)許多成熟的相關(guān)技術(shù)并在此基礎(chǔ)上研究以及闡述了，在此結(jié)構(gòu)下

2、的節(jié)點同步機制、節(jié)點故障檢測、數(shù)據(jù)分布策略、冗余副本策略，以及為了提高并發(fā)處理能力，進而研究了如何高效完成對消息的發(fā)送與分發(fā)、單機數(shù)據(jù)的存儲與管理等問題。
　　下面簡要介紹本系統(tǒng)在實現(xiàn)過程中，對上述問題提出的解決方案及實現(xiàn)策略：
　　(1)研究并實現(xiàn)節(jié)點之間如何通過Gossip協(xié)議進行通信，該協(xié)議以模擬病毒傳染或者說流言傳播的方式，幫助集群中各節(jié)點快速的完成狀態(tài)同步，以低通信成本的方式達到最終的系統(tǒng)狀態(tài)一致性。
　　(

3、2)通過研究學(xué)習(xí)PhiAccrualFailureDetector故障檢測算法，設(shè)計如何通過為節(jié)點建立采樣空間并以概率分布的理論建模的方式，來給出集群中節(jié)點故障的概率，而不是直接給出bool型的節(jié)點故障值，在檢測中考慮，集群中各節(jié)點的網(wǎng)絡(luò)情況以及機器處理性能等會影響心跳到達的因素，從而降低誤判概率。
　　(3)討論設(shè)計數(shù)據(jù)分布的策略。避免了中心節(jié)點式結(jié)構(gòu)中，讀寫取數(shù)據(jù)時需要先查中心節(jié)點再訪問數(shù)據(jù)節(jié)點這種兩步的操作方式，通過在本地直

4、接計算關(guān)鍵字的Hash值，然后查找Hash環(huán)即可直接確定據(jù)所歸屬的節(jié)點。讀寫延遲小，并且降低了對集群的訪問壓力。
　　(4)討論設(shè)計了基于Reactor模型的處理引擎。通過將所有的線程通信、網(wǎng)絡(luò)通信都設(shè)計成非阻塞的方式，來提高并發(fā)處理能力。另外可以根據(jù)系統(tǒng)硬件條件，配置運行網(wǎng)絡(luò)IO程序的線程個數(shù)，充分發(fā)揮多核或多處理器的優(yōu)勢。
　　(5)研究優(yōu)化了單機數(shù)據(jù)的存儲，使用諸如對數(shù)據(jù)文件橫向切割，內(nèi)存映射，充分利用磁盤順序讀寫等技