基于可擴展對象的海量存儲系統(tǒng)研究.pdf

1、信息存儲是人類社會永恒的需求。隨著計算機技術的發(fā)展和應用的普及，信息存儲容量成爆炸性地增長，現(xiàn)有網(wǎng)絡存儲系統(tǒng)已無法滿足人們對于存儲的需要?；趯ο蟠鎯Γ∣bject-Based Storage，OBS）技術逢時崛起，利用現(xiàn)有的存儲組件、處理技術和網(wǎng)絡技術，通過簡單方式來獲得前所未有的高吞吐量，成為下一代網(wǎng)絡存儲的主流。它采用包含數(shù)據(jù)和屬性的“對象”作為接口，既有了“塊”接口的快速，又有“文件”接口的便于共享，并分離了存儲數(shù)據(jù)的邏輯視圖和

2、物理視圖，將存儲數(shù)據(jù)的邏輯視圖保留在元數(shù)據(jù)服務器中，而物理數(shù)據(jù)存放在基于對象存儲設備（Object-Based Storage Device，OSD）中。同時，它將傳統(tǒng)文件分解為系列數(shù)據(jù)對象，分發(fā)到一個或多個OSD 中。雖然對象給存儲系統(tǒng)帶來了一種新的理念，但現(xiàn)有的與對象相關的存儲系統(tǒng)中對象都僅定義為非定長的數(shù)據(jù)單位，束縛了“對象”這個有著豐富內涵的詞匯。 基于可擴展對象的海量存儲系統(tǒng)（Based on Scalable Obj

3、ect Mass StorageSystem，BSO-MSS）吸取了OBS 的優(yōu)點，在“對象”現(xiàn)有的含義基礎上擴充，使它不僅只包括用戶數(shù)據(jù)，還將目錄、文件、存儲設備管理等納入對象之中，形成層次結構的對象體系結構，實現(xiàn)對象的分布存儲、層次管理的模式，并建立基于存儲對象統(tǒng)一訪問模式，將塊、對象和文件三種存儲接口進行融合與統(tǒng)一。這樣不僅具有統(tǒng)一邏輯視圖、數(shù)據(jù)共享、主動服務、并行訪問、統(tǒng)一存儲和易管理等特點，而且有著其他存儲結構難以達到的高可擴

4、展性和高性能。 通過建立系統(tǒng)廣義隨機Petri 網(wǎng)模型，對BSO-MSS 進行性能評價，模擬結果顯示無論增加存儲對象（Storage Object，SO）還是客戶端，系統(tǒng)性能都隨之增加。并采用測試工具iozone 對系統(tǒng)原型與Lustre 系統(tǒng)作對比測試，測試結果表明寫性能超過Lustre，讀性能略比Lustre 好，并驗證了BSO-MSS 的廣義隨機Petri 網(wǎng)模型。 首次將存儲系統(tǒng)與元胞自動機相結合，利用元胞自動機

5、的原理，解析BSO-MSS動力演變規(guī)律。構建了一個通用框架的BSO-MSSCA 概念模型框架，并在此基礎上，分析了兩種具體元胞自動機模型。基于存儲對象負載分配模型是將SO 解析為元胞，模擬了一個簡單的負載均衡分配的動態(tài)變化，高度概括了BSO-MSS 的演變過程。 基于數(shù)據(jù)對象訪問行為模型則分析數(shù)據(jù)對象的訪問頻率對系統(tǒng)的影響，結合數(shù)據(jù)對象訪問的特征和主動性，通過機械學習適當調整數(shù)據(jù)對象的訪問行為頻率，使系統(tǒng)朝著穩(wěn)定方向發(fā)展。通過分

6、析基于存儲對象的負載分配模型和基于數(shù)據(jù)對象的訪問行為模型的演變過程，可以看出系統(tǒng)具有主動性、共享性、并行性、相關性等特性，是一個自組織管理的對象存儲系統(tǒng)。 大規(guī)模分布式存儲系統(tǒng)中，元數(shù)據(jù)高性能服務、負載均衡以及擴展性已成為一個重要的研究熱點。在元數(shù)據(jù)服務器中，將元數(shù)據(jù)分解為目錄對象和文件對象，目錄對象為定位性元數(shù)據(jù)，提供文件所在位置和訪問控制；文件對象為描述性元數(shù)據(jù)，描述文件的數(shù)據(jù)特性。每一個元數(shù)據(jù)服務器（Metadata Se

7、rver，MDS）負責所有目錄對象和自身的文件對象，這樣充分利用MDS 中Cache，提高Cache 的命中率，減少磁盤I/O 次數(shù)，而且能夠動態(tài)擴展MDS。同時，以目錄對象ID 和文件名為關鍵字的哈希值作為局部元數(shù)據(jù)查找表（Local Metadata Lookup Table，LMLT）的索引，獲得相應的MDS_ID。一旦目錄權限改變、更名、移動目錄、修改權限等都不會造成元數(shù)據(jù)的遷移。通過Bloom Filter 算法將每個MDS

8、的LMLT 壓縮成一個摘要，能夠實現(xiàn)快速的元數(shù)據(jù)查找。同時采用主從備三重鏈式結構的MDS 服務，不僅在未提高硬件成本下能夠保證系統(tǒng)高可靠性和可用性，而且根據(jù)熱點訪問進行遷移，實現(xiàn)負載均衡。SO 是BSO-MSS 重要組成單位，它與OSD 不同之處是本身具有“接口”與“狀態(tài)”標識，由數(shù)據(jù)、屬性和方法組成，這樣對現(xiàn)有的T10 OSD 標準進行了擴充。由于數(shù)據(jù)對象是通常在一維空間中命名，傳統(tǒng)文件系統(tǒng)管理大量數(shù)據(jù)對象的效率是極其低，采用線性哈希

9、查找算法，由負載因子控制分裂和合并，與傳統(tǒng)文件系統(tǒng)的樹結構查找相比，哈希法查找時間復雜度為O(1)。同時，針對Ext2 文件系統(tǒng)中數(shù)據(jù)訪問至少需兩次以上的磁盤操作特性，將數(shù)據(jù)的塊地址和長度鏈接在一起，作為對象的擴展屬性，連同數(shù)據(jù)對象一起存儲到磁盤中，這樣無論數(shù)據(jù)對象大小為多少，磁盤訪問次數(shù)僅為兩次。在BSO-MSS 中，負載與眾多因素相關，如請求隊列長度、CPU 處理能力、內存大小、網(wǎng)絡帶寬、磁盤帶寬和磁盤容量等。負載柔性放置策略不僅考