面向高性能計(jì)算的分布式內(nèi)存文件緩存系統(tǒng).pdf

1、隨著設(shè)計(jì)理念和硬件制造工藝的不斷發(fā)展,在過去的十多年中,磁盤存儲(chǔ)設(shè)備的容量和訪問性能有了長足的進(jìn)步,但是依舊與CPU運(yùn)算速度之間出現(xiàn)了不斷擴(kuò)大的不匹配問題,磁盤I/O逐漸成為數(shù)據(jù)密集型計(jì)算任務(wù)的瓶頸所在。特別是在分布式的高性能計(jì)算環(huán)境下,大量數(shù)據(jù)往往通過共享的存儲(chǔ)設(shè)備進(jìn)行存儲(chǔ),相比并行的計(jì)算速度,即使采取了NAS專用存儲(chǔ)設(shè)備或SAN專用存儲(chǔ)網(wǎng)絡(luò),使用RAID磁盤陣列提高磁盤數(shù)據(jù)訪問吞吐量,磁盤I/O也往往成為系統(tǒng)總體性能的主要制約因素。

2、在大量計(jì)算節(jié)點(diǎn)需要并發(fā)訪問相同的文件數(shù)據(jù)時(shí),存儲(chǔ)系統(tǒng)局部會(huì)負(fù)擔(dān)大量的文件訪問請求,磁盤以及網(wǎng)絡(luò)I/O在系統(tǒng)中的瓶頸地位就越發(fā)明顯。
　　面向高性能計(jì)算的分布式內(nèi)存文件緩存系統(tǒng),利用各計(jì)算節(jié)點(diǎn)上的空閑內(nèi)存空間,構(gòu)建分布式的共享內(nèi)存池,利用數(shù)據(jù)訪問的局部性,對高訪問頻度的文件數(shù)據(jù)進(jìn)行內(nèi)存緩存,提供統(tǒng)一的文件訪問接口,透明的對存在于緩存或磁盤上的文件進(jìn)行訪問,降低高性能計(jì)算任務(wù)的I/O開銷與等待時(shí)間,提高執(zhí)行效率,同時(shí)降低共享存儲(chǔ)系統(tǒng)的

3、負(fù)載。使用優(yōu)化的緩存文件置換機(jī)制,對緩存中的文件數(shù)據(jù)進(jìn)行換入換出,緩存高頻度訪問的文件,提高緩存數(shù)據(jù)訪問的命中率。實(shí)時(shí)監(jiān)控計(jì)算節(jié)點(diǎn)的運(yùn)行狀態(tài),使用預(yù)測算法對未來空閑內(nèi)存大小進(jìn)行預(yù)測,根據(jù)預(yù)測調(diào)整共享內(nèi)存池大小,在不影響本地應(yīng)用程序執(zhí)行的前提下,最大程度利用空閑內(nèi)存空間。
　　實(shí)驗(yàn)表明,面向高性能計(jì)算的分布式內(nèi)存文件緩存系統(tǒng)能夠正確穩(wěn)定的運(yùn)行,有效利用計(jì)算節(jié)點(diǎn)的空閑內(nèi)存對文件數(shù)據(jù)進(jìn)行緩存,提高了上層應(yīng)用的數(shù)據(jù)訪問效率。在使用1Gbp