基于GPU的矩陣乘法優(yōu)化研究.pdf

1、傳統(tǒng)單核處理器的性能由于散熱、功耗等問題，已無法與硬件資源發(fā)展速度相適應(yīng)，但近幾年來高性能計算領(lǐng)域的新興應(yīng)用的發(fā)展對計算機(jī)的性能要求卻越來越高。相對于傳統(tǒng)的單核處理器，多核/眾核處理器可利用線程級并行獲得性能提升，從而更好地滿足高性能計算領(lǐng)域?qū)τ嬎銠C(jī)的性能要求，目前已被學(xué)術(shù)界和產(chǎn)業(yè)界廣泛接受。然而，多核/眾核平臺雖擁有較高的浮點峰值和計算能力，但它的結(jié)構(gòu)和編程環(huán)境具有一定復(fù)雜性，如何充分挖掘眾核處理器的強(qiáng)大計算能力便成為了一個突出的問題

2、。為了解決該問題，探索眾多應(yīng)用中的核心算法，并針對多核/眾核平臺特點對其進(jìn)行優(yōu)化便顯得尤為重要。本文以稠密矩陣向量乘法(The matrix-vector multiplication routine forgeneral dense matrices，GEMV)、稀疏矩陣向量乘法(sparse matrix-vectormultiplication，SpMV)作為規(guī)則應(yīng)用核心算法與非規(guī)則應(yīng)用核心算法的代表進(jìn)行研究:
　　(1)采

3、用面向眾核GPU的高速緩存分塊方法設(shè)計更優(yōu)的基于眾核GPU稠密矩陣向量乘算法，第一種算法從提高線程并行度的角度出發(fā)，能夠很好的提高GPU的利用率。利用同一個warp的線程代替?zhèn)鹘y(tǒng)高速緩存算法中一個線程，計算向量y中的一個對應(yīng)元素。第二種算法，在第一種算法的基礎(chǔ)上加入了寄存器上數(shù)據(jù)重用的思想。寄存器資源是是GPU眾核平臺上最為快速的資源，是解決訪存瓶頸問題有效途徑。通過實驗對比分析，新的算法較傳統(tǒng)庫函數(shù)有著很好的性能提升，尤其是對小型和行

4、數(shù)大于列數(shù)的矩陣，性能提升了10％以上。此外，本文針對GPU眾核架構(gòu)特點對寄存器重用次數(shù)對算法性能影響也進(jìn)行了進(jìn)一步研究。
　　(2)HYB存儲格式基礎(chǔ)上提出新的存儲格式對稀疏矩陣向量乘法進(jìn)行優(yōu)化，通過多次劃分使稀疏矩陣的COO存儲格式部分更小，并增加ELL格式的部分，以更好地利用眾核GPU的計算能力。此外，我們在實驗過程中對劃分參數(shù)進(jìn)行了仔細(xì)分析，調(diào)優(yōu)后的結(jié)果進(jìn)一步的提升了算法性能。實驗結(jié)果表明，與傳統(tǒng)的基于HYB格式的算法比較

5、，基于HYB-I格式的稀疏矩陣向量乘法在我們的稀疏矩陣測試集上獲得了更高的性能，最好的情況下性能提升比達(dá)到17％。
　　(3)針對稀疏矩陣向量乘法提出新的基于BCSR格式的高速緩存分塊方法，對稀疏矩陣進(jìn)行劃分并以CSR格式進(jìn)行存儲，利用高速緩存分塊思想，將向量x在共享內(nèi)存中多次利用，有效地提高了了訪存效率，使稀疏矩陣向量乘法性能得到提升。實驗表明，最好情況下，稀疏矩陣向量乘的高速緩存分塊方法比CSR格式計算結(jié)果的速度有5倍的提升。