基于通信優(yōu)化的多MIC協(xié)處理器平臺(tái)上的并行編程研究.pdf

1、未來高性能計(jì)算機(jī)的發(fā)展趨勢(shì)是在單個(gè)計(jì)算節(jié)點(diǎn)之內(nèi)使用多個(gè)加速部件，更為復(fù)雜的體系結(jié)構(gòu)使得通信效率成為了獲得更高性能的主要因素之一。因此本文基于通信優(yōu)化這一關(guān)鍵問題，進(jìn)行了新型的單節(jié)點(diǎn)多MIC協(xié)處理器平臺(tái)上的并行編程研究。
　　首先，為了實(shí)現(xiàn)單節(jié)點(diǎn)內(nèi)多個(gè)協(xié)處理器與主機(jī)端CPU的高效通信，本文對(duì)比研究了三種編程方式，包括基于對(duì)等模式的MPI-OpenMP編程方法，基于卸載模式的傳統(tǒng)的pragma編程方法，以及本文新提出的基于卸載模式的C

2、OI-SCIF編程方法。MPI-OpenMP方式的編程及優(yōu)化與傳統(tǒng)的CPU集群相同；第一種卸載模式的編程方法較為通用，是由編譯器的pragma指令實(shí)現(xiàn)；而第二種卸載模式的方法結(jié)合使用了Intel提供的底層接口coprocessor offload infrastructure（COI）和symmetric communication interface（SCIF），以實(shí)現(xiàn)低延遲的通信。雖然以pragma為基礎(chǔ)的編程方式更為簡單，但COI

3、-SCIF的編程方式有以下的優(yōu)點(diǎn)：卸載代碼段開銷更低，數(shù)據(jù)傳輸帶寬更高，計(jì)算與數(shù)據(jù)通信能夠?qū)崿F(xiàn)更好的異步重疊等。底層的COI-SCIF編程方式可以更細(xì)粒度的控制數(shù)據(jù)傳輸，與對(duì)等模式的MPI-OpenMP方式相比也顯示了很好的性能效果。其次，考慮到整個(gè)異構(gòu)集群上的并行編程和通信優(yōu)化，針對(duì)集群中多種設(shè)備高效協(xié)同計(jì)算的問題，本文面向Stencil結(jié)構(gòu)化網(wǎng)格類計(jì)算，研究了一種基于高效通信的混合編程模型。通過結(jié)合使用MPI、OpenMP、COI、

4、SCIF等多種編程技術(shù)，完成模型的整體設(shè)計(jì)，提出了一種較為合理的負(fù)載均衡策略，并通過任務(wù)劃分、通信隱藏等技術(shù)實(shí)現(xiàn)層次流水線式通信優(yōu)化，達(dá)到多層次高效率的通信計(jì)算目標(biāo)。
　　本文的所有實(shí)驗(yàn)都是基于一個(gè)以Stencil結(jié)構(gòu)化網(wǎng)格計(jì)算為基礎(chǔ)的真實(shí)三維應(yīng)用實(shí)現(xiàn)；實(shí)驗(yàn)平臺(tái)為當(dāng)前排名世界第一的天河-2號(hào)超級(jí)計(jì)算機(jī)。通過詳盡的測(cè)試，分析對(duì)比了單節(jié)點(diǎn)上MPI-OpenMP、pragma和COI-SCIF這三種不同編程方式的通信帶寬與性能，展現(xiàn)了基

5、于系統(tǒng)級(jí)接口的COI-SCIF編程模式的優(yōu)勢(shì)；多節(jié)點(diǎn)上，首先對(duì)基于高效通信的混合編程模型的負(fù)載劃分策略進(jìn)行測(cè)試與驗(yàn)證，得出了最優(yōu)的負(fù)載劃分結(jié)果；在最優(yōu)負(fù)載設(shè)置下，分析對(duì)比應(yīng)用通信優(yōu)化策略前后的性能結(jié)果；本文在最后給出了上述編程模型指導(dǎo)下實(shí)現(xiàn)、在天河-2號(hào)上大規(guī)模長時(shí)間模擬，所得出的病態(tài)心臟細(xì)胞納米精度的鈣動(dòng)力學(xué)模擬結(jié)果。
　　本文所進(jìn)行的基于通信優(yōu)化的單節(jié)點(diǎn)多MIC協(xié)處理平臺(tái)上的混合編程研究，不僅為單節(jié)點(diǎn)-多加速器這類新興體系結(jié)構(gòu)