基于FPGA的卷積神經(jīng)網(wǎng)絡(luò)并行結(jié)構(gòu)研究.pdf

1、隨著集成電路設(shè)計(jì)和制造工藝的進(jìn)步,具有高速、高密度可編程邏輯資源的現(xiàn)場(chǎng)可編程門(mén)陣列(Field Programmable Gate Array,FPGA)得到了快速發(fā)展,單芯片的集成度越來(lái)越高。當(dāng)前主流的FPGA芯片中包含了大量的可編程邏輯資源、可編程互聯(lián)資源、存儲(chǔ)資源,并通過(guò)集成DSP硬核支持高性能乘法部件的實(shí)現(xiàn),這些特點(diǎn)使得FPGA成為實(shí)現(xiàn)計(jì)算密集型應(yīng)用加速的一種非常重要的選擇。在眾多的計(jì)算密集型應(yīng)用中,卷積神經(jīng)網(wǎng)絡(luò)(Convolu

2、tional Neural Network,CNN)作為典型的多層神經(jīng)網(wǎng)絡(luò)始終處于研究的核心地位,對(duì)其進(jìn)行深入的研究,在模式識(shí)別、科學(xué)計(jì)算等領(lǐng)域具有重要的理論意義和應(yīng)用價(jià)值。
　　卷積神經(jīng)網(wǎng)絡(luò)的并行體系結(jié)構(gòu)是CNN整體計(jì)算架構(gòu)的基礎(chǔ)和核心。本文在現(xiàn)有工作的基礎(chǔ)上,系統(tǒng)地研究了卷積神經(jīng)網(wǎng)絡(luò)并行結(jié)構(gòu),主要的研究?jī)?nèi)容包括以下幾個(gè)方面:
　　卷積神經(jīng)網(wǎng)絡(luò)的計(jì)算具有多種并行特征,如何根據(jù)不同的并行計(jì)算特征設(shè)計(jì)相應(yīng)的并行結(jié)構(gòu),充分開(kāi)發(fā)和

3、利用CNN計(jì)算的并行性是卷積神經(jīng)網(wǎng)絡(luò)并行計(jì)算的一個(gè)關(guān)鍵問(wèn)題。本文基于“主機(jī)+FPGA”的計(jì)算架構(gòu),確定卷積神經(jīng)網(wǎng)絡(luò)并行計(jì)算單元在整個(gè)CNN計(jì)算架構(gòu)中的地位以及與其他部件的接口,設(shè)計(jì)了一種可配置的CNN計(jì)算單元并行結(jié)構(gòu),該結(jié)構(gòu)采用交叉互聯(lián)開(kāi)關(guān)控制輸入和輸出特征映射圖與CNN計(jì)算單元的連接。應(yīng)用示例表明該結(jié)構(gòu)能夠根據(jù)卷積神經(jīng)網(wǎng)絡(luò)層內(nèi)計(jì)算的不同特征配置相應(yīng)的計(jì)算結(jié)構(gòu),有利于充分開(kāi)發(fā)卷積神經(jīng)網(wǎng)絡(luò)層內(nèi)計(jì)算的并行性,提高卷積神經(jīng)網(wǎng)絡(luò)計(jì)算性能。

4、>　　由于FPGA硬件資源的限制,完全并行的CNN計(jì)算結(jié)構(gòu)無(wú)法在FPGA上實(shí)現(xiàn),只能對(duì)部分卷積核進(jìn)行并行計(jì)算,如何把大量的卷積核循環(huán)語(yǔ)句映射到數(shù)量有限的計(jì)算單元仍然是一個(gè)需要解決的問(wèn)題。通過(guò)給出CNN層內(nèi)計(jì)算模型的循環(huán)表示,然后根據(jù)不同的并行計(jì)算結(jié)構(gòu)對(duì)層內(nèi)計(jì)算進(jìn)行劃分,實(shí)現(xiàn)對(duì)多個(gè)循環(huán)迭代的卷積核循環(huán)語(yǔ)句調(diào)度執(zhí)行;通過(guò)給出不同劃分方法的代價(jià)函數(shù),能夠在資源約束的條件下,獲取不同并行計(jì)算結(jié)構(gòu)的執(zhí)行性能,進(jìn)而為卷積神經(jīng)網(wǎng)絡(luò)并行計(jì)算結(jié)構(gòu)的選擇提

5、供全面和精確的信息。
　　卷積核計(jì)算單元的執(zhí)行效率在很大程度上決定著整個(gè)卷積神經(jīng)網(wǎng)絡(luò)的性能,其中數(shù)據(jù)緩存結(jié)構(gòu)的設(shè)計(jì)是二維卷積計(jì)算單元設(shè)計(jì)中的一個(gè)關(guān)鍵問(wèn)題,緩存結(jié)構(gòu)設(shè)計(jì)的優(yōu)劣決定著卷積計(jì)算單元的硬件實(shí)現(xiàn)代價(jià)和性能?，F(xiàn)有的二維卷積計(jì)算單元的內(nèi)部緩存結(jié)構(gòu)在實(shí)際應(yīng)用中存在各種不足。本文針對(duì)如何提高片上存儲(chǔ)資源使用效率的問(wèn)題,提出了一種存儲(chǔ)面積優(yōu)化的數(shù)據(jù)緩存結(jié)構(gòu),采用寄存器輪轉(zhuǎn)策略充分開(kāi)發(fā)卷積計(jì)算中的數(shù)據(jù)重用,實(shí)驗(yàn)結(jié)果表明該結(jié)構(gòu)提高了對(duì)片外

6、存儲(chǔ)器帶寬和片上存儲(chǔ)資源的利用率;針對(duì)如何在存儲(chǔ)帶寬受限條件下,充分開(kāi)發(fā)卷積計(jì)算內(nèi)在并行性和提高輸出數(shù)據(jù)吞吐率的問(wèn)題,提出了帶寬優(yōu)化的數(shù)據(jù)緩存結(jié)構(gòu),該結(jié)構(gòu)通過(guò)采用固定帶寬的數(shù)據(jù)廣播策略和單數(shù)據(jù)流驅(qū)動(dòng)的流水線(xiàn)方式,充分利用了片上移位寄存器資源,實(shí)驗(yàn)結(jié)果表明該結(jié)構(gòu)在滿(mǎn)足輸出數(shù)據(jù)吞吐率最大化的條件下,減少了對(duì)片外存儲(chǔ)帶寬的需求。
　　如何確定卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用不同層中特征映射圖的數(shù)量是卷積神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)設(shè)計(jì)中的一個(gè)關(guān)鍵問(wèn)題,本文在對(duì)現(xiàn)有