面向海量氣象數(shù)據(jù)的緩存機(jī)制與數(shù)據(jù)庫(kù)優(yōu)化研究.pdf

1、隨著社會(huì)各領(lǐng)域科學(xué)技術(shù)的競(jìng)相發(fā)展，各行各業(yè)的信息量呈現(xiàn)了爆發(fā)式增長(zhǎng)。在氣象行業(yè)中，全國(guó)直轄市、自治區(qū)、省、特別行政區(qū)以及各大中型主要城市的氣象服務(wù)數(shù)據(jù)和產(chǎn)品的數(shù)據(jù)量非?？捎^，形成了氣象數(shù)據(jù)來(lái)源復(fù)雜、格式多樣、數(shù)量巨大、形式各異等特點(diǎn)。氣象大數(shù)據(jù)和氣象服務(wù)時(shí)效性之間矛盾使得氣象數(shù)據(jù)的存儲(chǔ)、管理、使用的復(fù)雜程度和難度與日俱增;現(xiàn)有氣象數(shù)據(jù)網(wǎng)絡(luò)的異構(gòu)性和地域分布性使得氣象數(shù)據(jù)的訪問(wèn)陷入困境，比如雷達(dá)基數(shù)據(jù)的上傳是每5分鐘一次，但是很多時(shí)候5分

2、鐘的間隔并不能滿足數(shù)據(jù)節(jié)點(diǎn)之間的網(wǎng)絡(luò)傳輸時(shí)延，數(shù)據(jù)傳輸和訪問(wèn)都暴露出了很大的問(wèn)題。因此，本文以此為切入點(diǎn)，針對(duì)上面提到的問(wèn)題提出合理的數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)訪問(wèn)方案，進(jìn)而優(yōu)化氣象行業(yè)的服務(wù)質(zhì)量;同時(shí)針對(duì)訪問(wèn)過(guò)程中的性能問(wèn)題，將數(shù)據(jù)庫(kù)優(yōu)化技術(shù)加入到系統(tǒng)實(shí)現(xiàn)。本文具體完成了以下工作:
　　(1)設(shè)計(jì)了一種基于分布式文件系統(tǒng)的氣象緩存框架MeteCS，在框架中首先研究了現(xiàn)有的數(shù)據(jù)放置算法并基于一致性的哈希數(shù)據(jù)放置算法提出了一種節(jié)點(diǎn)負(fù)載均衡的哈希

3、數(shù)據(jù)放置算法MeteHash，充分考慮了分布式系統(tǒng)中異構(gòu)的節(jié)點(diǎn)網(wǎng)絡(luò)可能存在的性能差異。
　　(2)基于Greedy Dual Size Frequency緩存替換算法提出了基于權(quán)重的緩存替換算法WGDSF，其中，具體研究了基于時(shí)間權(quán)重的頻率、基于大小的代價(jià)、基于類(lèi)型的內(nèi)容參數(shù)三個(gè)參數(shù)，通過(guò)對(duì)比WGDSF和傳統(tǒng)優(yōu)秀的經(jīng)典算法在相同實(shí)驗(yàn)設(shè)置下的性能表現(xiàn)，在絕大多數(shù)情況下性能最優(yōu)，對(duì)系統(tǒng)具有很好的性能提升。
　　(3)設(shè)計(jì)了一種從