面向高并發(fā)小包數(shù)據(jù)分布式存儲(chǔ)系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn).pdf

1、近年來，由于物聯(lián)網(wǎng)、基于大數(shù)據(jù)的推薦系統(tǒng)等概念的興起，對大量高并發(fā)、海量小塊數(shù)據(jù)的存儲(chǔ)問題提出了新的挑戰(zhàn)。
　　本系統(tǒng)放棄了分布式系統(tǒng)中較常用的帶有中心節(jié)點(diǎn)的結(jié)構(gòu)設(shè)計(jì)，采用了一種基于Gossip協(xié)議的P2P對等節(jié)點(diǎn)的結(jié)構(gòu)。中心節(jié)點(diǎn)式結(jié)構(gòu)設(shè)計(jì)，由于單點(diǎn)故障、中心熱點(diǎn)等問題的存在，對系統(tǒng)硬件的配置以及維護(hù)成本有較大要求。本文從數(shù)據(jù)分流、降低成本等角度考慮，圍繞P2P結(jié)構(gòu)，參考業(yè)內(nèi)許多成熟的相關(guān)技術(shù)并在此基礎(chǔ)上研究以及闡述了，在此結(jié)構(gòu)下

2、的節(jié)點(diǎn)同步機(jī)制、節(jié)點(diǎn)故障檢測、數(shù)據(jù)分布策略、冗余副本策略，以及為了提高并發(fā)處理能力，進(jìn)而研究了如何高效完成對消息的發(fā)送與分發(fā)、單機(jī)數(shù)據(jù)的存儲(chǔ)與管理等問題。
　　下面簡要介紹本系統(tǒng)在實(shí)現(xiàn)過程中，對上述問題提出的解決方案及實(shí)現(xiàn)策略：
　　(1)研究并實(shí)現(xiàn)節(jié)點(diǎn)之間如何通過Gossip協(xié)議進(jìn)行通信，該協(xié)議以模擬病毒傳染或者說流言傳播的方式，幫助集群中各節(jié)點(diǎn)快速的完成狀態(tài)同步，以低通信成本的方式達(dá)到最終的系統(tǒng)狀態(tài)一致性。
　　(

3、2)通過研究學(xué)習(xí)PhiAccrualFailureDetector故障檢測算法，設(shè)計(jì)如何通過為節(jié)點(diǎn)建立采樣空間并以概率分布的理論建模的方式，來給出集群中節(jié)點(diǎn)故障的概率，而不是直接給出bool型的節(jié)點(diǎn)故障值，在檢測中考慮，集群中各節(jié)點(diǎn)的網(wǎng)絡(luò)情況以及機(jī)器處理性能等會(huì)影響心跳到達(dá)的因素，從而降低誤判概率。
　　(3)討論設(shè)計(jì)數(shù)據(jù)分布的策略。避免了中心節(jié)點(diǎn)式結(jié)構(gòu)中，讀寫取數(shù)據(jù)時(shí)需要先查中心節(jié)點(diǎn)再訪問數(shù)據(jù)節(jié)點(diǎn)這種兩步的操作方式，通過在本地直

4、接計(jì)算關(guān)鍵字的Hash值，然后查找Hash環(huán)即可直接確定據(jù)所歸屬的節(jié)點(diǎn)。讀寫延遲小，并且降低了對集群的訪問壓力。
　　(4)討論設(shè)計(jì)了基于Reactor模型的處理引擎。通過將所有的線程通信、網(wǎng)絡(luò)通信都設(shè)計(jì)成非阻塞的方式，來提高并發(fā)處理能力。另外可以根據(jù)系統(tǒng)硬件條件，配置運(yùn)行網(wǎng)絡(luò)IO程序的線程個(gè)數(shù)，充分發(fā)揮多核或多處理器的優(yōu)勢。
　　(5)研究優(yōu)化了單機(jī)數(shù)據(jù)的存儲(chǔ)，使用諸如對數(shù)據(jù)文件橫向切割，內(nèi)存映射，充分利用磁盤順序讀寫等技