高性能分布式文件系統(tǒng)元數(shù)據(jù)服務(wù)設(shè)計與實現(xiàn).pdf

1、云計算業(yè)務(wù)的快速發(fā)展對其后臺的核心支撐技術(shù)之一的云存儲技術(shù)的要求越來越高。同時,將云存儲作為一種服務(wù)對用戶提供數(shù)據(jù)的便捷存取開始成為一種有效的商業(yè)模式。用戶數(shù)據(jù)量的高速增長使得云存儲服務(wù)平臺在系統(tǒng)容量及系統(tǒng)系統(tǒng)可靠性等方面面臨著巨大的挑戰(zhàn),因此分布式文件系統(tǒng)成為云存儲服務(wù)后端承載平臺的必然選擇。元數(shù)據(jù)管理是分布式文件系統(tǒng)的核心功能之一,對系統(tǒng)的穩(wěn)定性和性能極為重要。由于元數(shù)據(jù)具有高度的相互依賴關(guān)系和結(jié)構(gòu)化特征,管理較為復(fù)雜,因此元數(shù)據(jù)服

2、務(wù)一直是分布式文件系統(tǒng)設(shè)計的難點之一。
　　本文為分布式文件系統(tǒng)CSTORE設(shè)計并實現(xiàn)了一個高性能元數(shù)據(jù)服務(wù)。元數(shù)據(jù)服務(wù)由集群承載,使用基于桶的哈希尋址策略將負(fù)載分布到集群中的各節(jié)點上,可以通過盡量小的數(shù)據(jù)遷移達(dá)到集群的負(fù)載均衡,并且具有良好的擴展能力。元數(shù)據(jù)被組織成K/V的形式存儲在數(shù)據(jù)存儲引擎中,通過對存儲引擎和元數(shù)據(jù)記錄的Key進行細(xì)致的設(shè)計使得相關(guān)的元數(shù)據(jù)在磁盤上被連續(xù)存儲,提高了元數(shù)據(jù)的訪問性能。多副本機制的應(yīng)用使得元數(shù)

3、據(jù)服務(wù)的可靠性得以保障。通過設(shè)計和實現(xiàn)基于日志的半同步復(fù)制協(xié)議,在兼顧服務(wù)性能的前提下解決了多副本機制引入的副本間一致性的問題?；诓僮魅罩镜亩鄬嵗讲呗钥梢灾瓮挥脩粼诓煌脚_不同終端上同時訪問系統(tǒng)中的數(shù)據(jù),并且在多個實例之間保持同步。元數(shù)據(jù)服務(wù)在設(shè)計和實現(xiàn)中對集群中節(jié)點的故障進行了即時檢測,通過實現(xiàn)故障時主從切換策略及副本恢復(fù)策略,元數(shù)據(jù)服務(wù)可以對外屏蔽系統(tǒng)故障并且實現(xiàn)快速的自動恢復(fù)。
　　本文最后通過系統(tǒng)測試對元數(shù)據(jù)服務(wù)