面向新型異構(gòu)眾核系統(tǒng)的多設(shè)備協(xié)同并行計算關(guān)鍵技術(shù)研究.pdf

1、近年來，由多核CPU和眾核加速器而構(gòu)成的新型異構(gòu)眾核系統(tǒng)以其高性能、低能耗和低成本等優(yōu)勢在高性能計算領(lǐng)域得到了迅猛發(fā)展，基于異構(gòu)眾核系統(tǒng)而開發(fā)的并行應(yīng)用也日益增多。但由于異構(gòu)眾核系統(tǒng)復(fù)雜的體系結(jié)構(gòu)以及簡單易用的異構(gòu)協(xié)同并行編程模型的缺乏，導(dǎo)致絕大部分并行應(yīng)用僅能有效利用異構(gòu)眾核系統(tǒng)中某一類計算設(shè)備，這造成了異構(gòu)眾核系統(tǒng)中其它計算設(shè)備的浪費，難以充分發(fā)揮異構(gòu)眾核系統(tǒng)的性能優(yōu)勢。因此，如何充分利用異構(gòu)眾核系統(tǒng)中所有可用的計算設(shè)備來高效協(xié)同執(zhí)

2、行并行應(yīng)用已成為一個迫切需要解決的課題。
　　異構(gòu)協(xié)同并行計算旨在充分利用異構(gòu)眾核系統(tǒng)中多個任意類型的計算設(shè)備來相互協(xié)作、并行地執(zhí)行指定的計算任務(wù)，以提高異構(gòu)眾核系統(tǒng)的計算性能。然而異構(gòu)系統(tǒng)中不同類型的計算設(shè)備具有完全不同的體系結(jié)構(gòu)、指令集、計算能力、存儲能力和通信能力等，這給異構(gòu)協(xié)同并行計算帶來了極大的挑戰(zhàn)。本文圍繞面向新型異構(gòu)眾核系統(tǒng)的多設(shè)備協(xié)同并行計算的關(guān)鍵技術(shù)展開了較為深入的分析和研究。本文的研究工作主要集中在以下四個方面

3、:
　　(1)為降低異構(gòu)協(xié)同并行編程難度、減輕編程負擔(dān)并高效支持基于異構(gòu)眾核系統(tǒng)的數(shù)據(jù)級并行應(yīng)用的多設(shè)備協(xié)同并行計算，提出了一個基于指導(dǎo)語句的異構(gòu)協(xié)同并行編程框架(簡稱OpenHCPP)。通過擴展廣為使用的OpenMP給編程人員提供了一種更為簡單靈活的方式來充分利用異構(gòu)眾核系統(tǒng)中所有可用的計算設(shè)備來協(xié)同執(zhí)行數(shù)據(jù)級并行應(yīng)用。借助于OpenHCPP提供的源到源的編譯器和運行時系統(tǒng)，編程人員無須關(guān)心如何在參與協(xié)同并行計算的各設(shè)備間高效地

4、劃分計算任務(wù)和傳輸數(shù)據(jù)。實驗結(jié)果表明采用OpenHCPP能有效提高基于異構(gòu)眾核系統(tǒng)的數(shù)據(jù)級并行應(yīng)用的開發(fā)效率和執(zhí)行效率。
　　(2)為能在異構(gòu)眾核系統(tǒng)中利用多個計算設(shè)備合理高效地協(xié)同執(zhí)行數(shù)據(jù)級并行應(yīng)用，提出了兩種高效支持異構(gòu)協(xié)同并行計算的設(shè)備間動態(tài)任務(wù)調(diào)度策略，包括反饋式動態(tài)彈性任務(wù)調(diào)度策略和搶占式動態(tài)彈性任務(wù)調(diào)度策略。前者較適合于計算和數(shù)據(jù)均勻分布的且計算內(nèi)核僅需執(zhí)行一次或少量重復(fù)執(zhí)行的數(shù)據(jù)級并行應(yīng)用，而后者較適合于計算和數(shù)據(jù)非

5、均勻分布的且/或計算內(nèi)核需大量重復(fù)執(zhí)行的數(shù)據(jù)級并行應(yīng)用。實驗結(jié)果表明，采用本文提出的設(shè)備間動態(tài)任務(wù)調(diào)度策略不僅能讓各計算設(shè)備得到充分利用、設(shè)備之間達到較好的負載均衡，而且能避免頻繁的設(shè)備初始化、kernel啟動、設(shè)備間數(shù)據(jù)傳輸和設(shè)備間同步所帶來的開銷。
　　(3)鑒于異構(gòu)眾核系統(tǒng)中設(shè)備間通信容易成為某些數(shù)據(jù)級并行應(yīng)用的多設(shè)備協(xié)同并行計算的性能瓶頸，為有效隱藏、減少或避免設(shè)備間通信開銷，提出了一種增量式數(shù)據(jù)傳輸方法和一種基于軟件流水

6、線的通信優(yōu)化方法。前者基于反饋式動態(tài)彈性任務(wù)調(diào)度，充分考慮了如何避免設(shè)備間重復(fù)冗余的數(shù)據(jù)傳輸，實現(xiàn)了能有效避免設(shè)備間重復(fù)傳輸?shù)姆答伿絼討B(tài)任務(wù)調(diào)度;后者基于反饋式動態(tài)彈性任務(wù)調(diào)度和搶占式動態(tài)彈性任務(wù)調(diào)度，充分考慮了如何盡可能地重疊加速器端計算內(nèi)核執(zhí)行與主機-加速器間數(shù)據(jù)傳輸，實現(xiàn)了能有效隱藏設(shè)備間通信開銷的反饋式動態(tài)彈性任務(wù)調(diào)度和搶占式動態(tài)彈性任務(wù)調(diào)度。實驗結(jié)果表明，采用本文提出的設(shè)備間通信優(yōu)化方法能顯著改進某些存在較大設(shè)備間通信開銷的數(shù)

7、據(jù)級并行應(yīng)用的多設(shè)備協(xié)同并行計算的整體性能。
　　(4)綜合應(yīng)用所提出的異構(gòu)協(xié)同并行編程框架、設(shè)備間任務(wù)調(diào)度策略和設(shè)備間通信優(yōu)化方法，實現(xiàn)了一個復(fù)雜應(yīng)用-求解子集和問題的并行二表算法-的高效CPU-GPU協(xié)同并行計算。鑒于并行二表算法的生成階段的異構(gòu)協(xié)同并行計算中易出現(xiàn)設(shè)備間負載不均衡且存在較大設(shè)備間通信開銷，在生成階段的CPU-GPU協(xié)同并行執(zhí)行中采用了避免設(shè)備間重復(fù)傳輸?shù)姆答伿絼討B(tài)任務(wù)調(diào)度策略。針對并行二表算法的剪塊與搜索階段