CPU-GPU異構(gòu)系統(tǒng)上的高層編程模型及其編譯優(yōu)化技術(shù).pdf

1、由于具有不同的結(jié)構(gòu)特點，使得CPU和GPU組成的異構(gòu)系統(tǒng)能夠更有效地處理通用計算任務(wù)。與CPU相比，GPU專注于提高需要更多的計算資源和存儲帶寬的數(shù)據(jù)并行任務(wù)的執(zhí)行效率，具有更復(fù)雜的存儲層次，且地址空間與CPU分離，使得為CPU-GPU異構(gòu)系統(tǒng)設(shè)計的編程模型仍然具有一些不盡如人意的地方，比如編程方式較為復(fù)雜;需要對底層硬件架構(gòu)有深刻的理解才能寫出優(yōu)化的程序;程序的可移植性較差等。
　　 本文圍繞CPU-GPU異構(gòu)系統(tǒng)編程模型的這

2、幾個問題，研究了異構(gòu)系統(tǒng)上的編程模型和優(yōu)化實現(xiàn)技術(shù)，分別從異構(gòu)系統(tǒng)上編程模型的易編程性和可移植性以及最終程序在異構(gòu)系統(tǒng)上的性能優(yōu)化技術(shù)和運行時技術(shù)等方面展開研究。本文的研究內(nèi)容和成果如下:
　　 (1)研究了程序?qū)χ茖?dǎo)語言表達能力的需求，提出了制導(dǎo)語言所必須具備的最小功能集合，并以O(shè)penHMPP制導(dǎo)語言為例進行了合理地擴展設(shè)計。由于已經(jīng)有多種解決異構(gòu)系統(tǒng)上易編程性和可移植性方案被提出，所以我們首先研究了不同類型的解決方案的優(yōu)缺

3、點，論證了基于制導(dǎo)語言的編程模型的優(yōu)勢，并提出了為異構(gòu)系統(tǒng)設(shè)計的制導(dǎo)語言所應(yīng)該具備的最小功能集合。然后我們以O(shè)penHMPP作為基礎(chǔ)，研究其表達能力，并進行最小化地擴展設(shè)計，形成了新的制導(dǎo)語言O(shè)penHMPP+，以其作為我們的源語言，為CPU-GPU異構(gòu)系統(tǒng)上的編程提供易編程性和可移植性。
　　 (2)提出了一個優(yōu)化的源到源編譯框架，將OpenHMPP+制導(dǎo)語言編譯成優(yōu)化的CUDA語言。通過高層制導(dǎo)語言提供易編程性和可移植性，以

4、及在編譯器中實現(xiàn)多種優(yōu)化技術(shù)來提供理想的性能，實現(xiàn)一個同時具備易編程性、可移植性和性能的編程模型。由于在實現(xiàn)的過程中需要用到多種優(yōu)化技術(shù)以及各種輔助技術(shù)，所以如何合理地安排這些技術(shù)，使得他們能夠完美的協(xié)作也對最終代碼的性能有著較大的影響。
　　 (3)研究了編譯器實現(xiàn)中的一些相關(guān)技術(shù)，并提出了相應(yīng)的實現(xiàn)算法。提出了偽依賴消除算法，用于增加Cetus的循環(huán)并行性檢測算法的適用性;提出了從多級并行循環(huán)到CUDA線程模型的映射算法，以

5、最大化地利用檢測出的循環(huán)并行性;提出了減少數(shù)組訪問的重用距離的算法，以減少計算核心中總的重用距離并為將數(shù)據(jù)加載到片上高速存儲器中提供條件;提出了計算核心啟動配置選擇算法，使得在并行性較小的情況下多個SM可以獲得盡可能相等的計算量，以達到負載平衡;提出了運行時CPU-GPU計算管理技術(shù)，同時為多核CPU和GPU生成計算核心，使得程序可以在沒有配備支持CUDA的GPU的系統(tǒng)上或者在顯存容量不足的情況下自動地切換到多核CPU上并行的執(zhí)行，合理

6、地利用了制導(dǎo)中的并行性信息。
　　 (4)設(shè)計了實驗對提出的源到源翻譯框架進行評測。從不同的領(lǐng)域選取了15個程序在兩個不同的平臺上進行了評測。結(jié)果顯示，編譯器自動生成的代碼在不同的平臺上都能取得較好的性能，在不同的程序和輸入集合大小下，平均性能可以達到手寫CUDA版本的70％以上。
　　 在研究CPU-GPU異構(gòu)系統(tǒng)上的編程模型以及給出優(yōu)化實現(xiàn)的過程中，我們得到了一些重要的結(jié)論。首先，在算法具備并行性的前提下，當(dāng)今的編譯

7、器只需要少量的信息，如并行區(qū)域的位置、并行區(qū)域中循環(huán)的并行性信息，就可以生成一個可以在異構(gòu)系統(tǒng)上正常執(zhí)行的程序。其次，將程序?qū)︼@存的訪問轉(zhuǎn)換成符合合并訪問規(guī)則的形式和利用程序中的數(shù)據(jù)重用性是兩個應(yīng)用廣泛并有效的優(yōu)化。對程序的最終性能起著至關(guān)重要的作用。最后，L2 Cache的加入能夠加速部分程序的執(zhí)行，但是需要一個能夠更有效地應(yīng)對流應(yīng)用的替換算法。大部分流應(yīng)用中線程對寄存器的需求較小，但是仍然有部分應(yīng)用需要較多的寄存器數(shù)目，更大的寄存器