通用多核集群上的并行調(diào)優(yōu)策略研究.pdf

1、隨著高性能計(jì)算進(jìn)入多核時(shí)代，通用多核集群已逐步成為當(dāng)前大規(guī)模并行計(jì)算的主流平臺(tái)。這類集群系統(tǒng)以多路通用多核服務(wù)器(Multi-Socket MulticoreServer)為基本計(jì)算節(jié)點(diǎn)，節(jié)點(diǎn)間采用Infiniband等高速網(wǎng)絡(luò)互聯(lián)。通用多核集群的興起帶來了并行調(diào)優(yōu)方面的深刻轉(zhuǎn)變和挑戰(zhàn)，主要表現(xiàn)為這類集群上的并行編程和調(diào)優(yōu)環(huán)境還不成熟，與硬件之間存在巨大鴻溝，目前這類系統(tǒng)上的并行程序調(diào)優(yōu)工作主要依靠程序員手工完成。一個(gè)極具現(xiàn)實(shí)意義的問題

2、是，給定一個(gè)應(yīng)用程序和目標(biāo)集群，應(yīng)遵循怎樣的流程來優(yōu)化并行程序以盡量發(fā)揮系統(tǒng)性能?解決這一問題的技術(shù)統(tǒng)稱為并行調(diào)優(yōu)策略，該技術(shù)定義了一套系統(tǒng)化的分析、理解和優(yōu)化并行程序的方法。目前，面向應(yīng)用的以大規(guī)模通用多核集群為目標(biāo)平臺(tái)的并行調(diào)優(yōu)策略的研究剛剛起步，本文即是這個(gè)方向的一次嘗試。
　　 本文針對(duì)當(dāng)前主流并行調(diào)優(yōu)技術(shù)的不足，以科學(xué)計(jì)算中最常見的FMM和Stencil計(jì)算為目標(biāo)，提出一種能夠用于指導(dǎo)在通用多核集群上對(duì)應(yīng)用程序進(jìn)行并行

3、調(diào)優(yōu)的新策略。該策略首先將影響程序性能的主要因素分為計(jì)算、訪存、通訊和負(fù)載均衡(分別簡(jiǎn)稱為P、M、C、B)四個(gè)主要類別，不同程序的PMCB的特性是不一樣，需要區(qū)別對(duì)待。FMM類程序的主要性能特征都能手工精確計(jì)算，對(duì)于這類程序我們提出一套基于靜態(tài)分析的優(yōu)化策略，收到了很好的效果。Stencil計(jì)算中計(jì)算優(yōu)化相對(duì)獨(dú)立，可以獨(dú)立確定，訪存和通訊則相互影響，其中一部分訪存優(yōu)化可以通過靜態(tài)分析決定如何選擇優(yōu)化參數(shù)，剩下的訪存優(yōu)化和通訊優(yōu)化相互影響

4、不易確定，為了確定這部分優(yōu)化組合，我們開發(fā)了訪存和通訊微測(cè)試程序來模擬Stencil計(jì)算中常見的訪存和通訊模式，通過微測(cè)試程序可以有效比對(duì)不同訪存和通訊的優(yōu)化組合之間的相對(duì)優(yōu)劣。由于避免了直接運(yùn)行程序帶來的高開銷，新策略只需要自優(yōu)化10％的時(shí)間就能達(dá)到自優(yōu)化95％的效果。
　　 Stencil計(jì)算中的Line-Sweep計(jì)算具有特殊的訪存和通訊特征，簡(jiǎn)單的負(fù)載均衡策略(保證各計(jì)算節(jié)點(diǎn)的計(jì)算、訪存和通訊量一致)并不能保證性能最優(yōu)。

5、這是因?yàn)楹?jiǎn)單的負(fù)載均衡策略在某些情況下會(huì)導(dǎo)致訪存量和通訊量過多。為了解決這一缺陷，本文提出均衡數(shù)據(jù)劃分，進(jìn)一步放松對(duì)數(shù)據(jù)分割和處理器分配的非本質(zhì)約束，以利于在計(jì)算、訪存和通訊這三種開銷之間達(dá)到最佳平衡。文中給出生成最佳均衡數(shù)據(jù)劃分的算法，它包含3個(gè)關(guān)鍵技術(shù)：首先建立性能模型，在該模型中均衡數(shù)據(jù)劃分的性能只與數(shù)據(jù)分割方式有關(guān)；接著基于該模型縮減數(shù)據(jù)分割方式的搜索空間，并以該模型為判據(jù)搜索性能最佳的數(shù)據(jù)分割方式；最后設(shè)計(jì)處理機(jī)分配函數(shù)以滿足