面向CPU-GPU異構系統(tǒng)的雙緩沖四段流水并行機制研究.pdf

1、以 GPU為代表的通用加速器技術已經(jīng)成為目前高性能計算領域的主流發(fā)展方向之一。隨著硬件存儲、計算能力的增長和大數(shù)據(jù)時代的到來，如何使用具有高存儲帶寬、高計算性能的帶有加速器的異構并行系統(tǒng)應對科學和工程領域中日益增長的數(shù)據(jù)密集型應用，已經(jīng)成為一個迫切需要解決的課題。目前已經(jīng)有一些工作研究如何利用存儲受限且無法擴展的異構加速器處理超過其存儲限制的應用問題，對于一些具體應用如代數(shù)求解、聚類分析等已經(jīng)提出了在CPU-GPU異構單點或集群系統(tǒng)上能

2、夠處理大規(guī)模問題的方法。然而，如何利用由多核CPU與多個眾核GPU加速器組成的單個異構結(jié)點處理超過設備內(nèi)存限制的一般性問題，目前尚無理想的解決方案。
　　本文提出了用于 CPU-GPU異構系統(tǒng)的雙緩沖四段流水機制，能夠在帶有一個或多個 GPU加速器的單結(jié)點上處理存儲規(guī)模超過單個加速器設備內(nèi)存限制的計算問題。雙緩沖四段流水機制使用數(shù)據(jù)分塊流水計算策略，在打破單個GPU存儲瓶頸的同時能夠通過重疊計算與傳輸達到很高計算性能和硬件利用率，