基于FT-MPI和糾刪碼的并行程序容錯(cuò)機(jī)制研究與性能優(yōu)化.pdf

1、近年來(lái)，高性能計(jì)算(High Performance Computing，HPC)系統(tǒng)在規(guī)模和擁有的處理器數(shù)量上有迅速增長(zhǎng)的趨勢(shì)。而系統(tǒng)出現(xiàn)故障的可能性也隨之大大增加。如何設(shè)計(jì)高效可靠的容錯(cuò)機(jī)制已經(jīng)是高性能計(jì)算領(lǐng)域中迫切需要解決的問(wèn)題。MPI(Message Passing Interface)是高性能計(jì)算系統(tǒng)中事實(shí)上的編程規(guī)范。在多種包含進(jìn)程級(jí)容錯(cuò)功能的MPI實(shí)現(xiàn)中，F(xiàn)T-MPI[7]檢查點(diǎn)/恢復(fù)機(jī)制的系統(tǒng)開(kāi)銷(xiāo)較低。然而其容錯(cuò)機(jī)制并非

2、對(duì)用戶(hù)透明，恢復(fù)階段對(duì)MPI通信域和用戶(hù)數(shù)據(jù)的恢復(fù)需要在應(yīng)用程序一級(jí)實(shí)現(xiàn)。
　　 本文基于FT-MPI運(yùn)行時(shí)環(huán)境和多種糾刪碼(RAID4/RAID5/RDP/B-code)，實(shí)現(xiàn)了一種輕量級(jí)的MPI程序容錯(cuò)機(jī)制。根據(jù)對(duì)系統(tǒng)開(kāi)銷(xiāo)和容錯(cuò)要求的不同，用戶(hù)可以選用基于不同編碼設(shè)計(jì)的檢查點(diǎn)/恢復(fù)接口，能夠在系統(tǒng)中多個(gè)進(jìn)程或者節(jié)點(diǎn)故障的情況下實(shí)現(xiàn)運(yùn)算中間數(shù)據(jù)的自動(dòng)恢復(fù)。
　　 通過(guò)對(duì)消息傳遞系統(tǒng)中主流容錯(cuò)機(jī)制的充分研究，我們選定了基

3、于糾刪碼的內(nèi)存協(xié)同檢查點(diǎn)協(xié)議作為設(shè)計(jì)各檢查點(diǎn)/恢復(fù)接口的解決方案。在做檢查點(diǎn)時(shí)，接口根據(jù)某種編碼把處于同一條紋中的數(shù)據(jù)按位異或后得到冗余數(shù)據(jù)，保存在某個(gè)冗余進(jìn)程或者散布于各個(gè)進(jìn)程中。按照協(xié)同檢查點(diǎn)協(xié)議，各個(gè)工作進(jìn)程在相同的位置調(diào)用檢查點(diǎn)接口，系統(tǒng)每一時(shí)刻只保存最近的一個(gè)檢查點(diǎn)?；謴?fù)時(shí)，F(xiàn)T-MPI首先恢復(fù)MPI運(yùn)行時(shí)環(huán)境和MPI庫(kù)的狀態(tài)，然后應(yīng)用程序調(diào)用恢復(fù)接口，從之前保存的內(nèi)存檢查點(diǎn)數(shù)據(jù)中通過(guò)解碼恢復(fù)重啟進(jìn)程的檢查點(diǎn)數(shù)據(jù)，使得整個(gè)程序