深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法可靠性評估指標(biāo)選取規(guī)則、實(shí)施案例

1、T/SZROBOT 0004—202313附錄A（規(guī)范性附錄）深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法可靠性評估指標(biāo)選取規(guī)則表 A.1 給出了深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法的可靠性評估指標(biāo)的選取規(guī)則。針對不同級別的的深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標(biāo)開展相關(guān)評估活動。表A.1 選取規(guī)則階段可靠性目標(biāo)評估指標(biāo)算法功能實(shí)現(xiàn)的正確性 算法功能實(shí)現(xiàn)的性能 量化數(shù)據(jù)集的影響 軟硬件平臺依賴的影響 環(huán)境數(shù)據(jù)的影響任務(wù)指標(biāo)指標(biāo)損失度響應(yīng)時間參數(shù)大小壓縮比

2、計(jì)算復(fù)雜度加速比運(yùn)行時內(nèi)存壓縮比數(shù)據(jù)集均衡性數(shù)據(jù)集規(guī)模數(shù)據(jù)集標(biāo)注質(zhì)量數(shù)據(jù)集污染情況深度學(xué)習(xí)框架差異操作系統(tǒng)差異硬件架構(gòu)差異干擾數(shù)據(jù)數(shù)據(jù)集分布遷移野值數(shù)據(jù)需求階段A ● ● ● ● ● ● * * * * ● ● ● * * *B ● ● ○ ● ● ○ * * * * ● ○ ○ * * *C ● ● ○ ● ○ ○ * * * * ○ ○ ○ * * *設(shè)計(jì)階段A ● ● ● ● ● ● ● ● ● ● * * * * * *B ●

3、● ○ ● ● ○ ● ● ○ ○ * * * * * *C ● ● ○ ● ○ ○ ● ○ ○ ○ * * * * * *注：“●”表示對于指定的深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標(biāo)，必須選擇的二級指標(biāo)；“○”表示對于指定的深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標(biāo)，推薦選擇的二級指標(biāo)；“*”表示不適用。T/SZROBOT 0004—202315附錄B（資料性附錄）深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法可靠性評估實(shí)施案例表 B.1 給出人臉

4、識別模型壓縮與量化算法可靠性評估實(shí)施案例。表B.1 人臉識別模型壓縮與量化算法可靠性評估實(shí)施案例算法 算法名稱 名稱 人臉識別模型壓縮與量化算法說明 算法說明人臉識別是基于人的臉部特征信息進(jìn)行身份識別的一種生物識別技術(shù)。其通過攝像機(jī)或攝像頭采集含有人臉的圖像或視頻流，在圖像中檢測跟蹤人臉，并在人臉數(shù)據(jù)庫中進(jìn)行人臉檢索核實(shí)身份，人臉識別閘機(jī)系統(tǒng)將傳統(tǒng)閘機(jī)設(shè)備集成人臉識別能力，用戶在閘機(jī)處提供人臉影像進(jìn)行人臉抽取，采集到的人臉進(jìn)行云端人臉識

5、別身份驗(yàn)證， 閘機(jī)隨識別驗(yàn)證結(jié)果做相應(yīng)響應(yīng)。 該系統(tǒng)將應(yīng)用于世博會的門禁系統(tǒng)中。任務(wù)指標(biāo)高的模型通常參數(shù)量大，響應(yīng)時間慢，運(yùn)行時內(nèi)存占用高，模型壓縮與量化算法可以在保證任務(wù)指標(biāo)的情況下減少參數(shù)量，提高響應(yīng)速度，減小運(yùn)行時內(nèi)存占用。算法可靠性評估方 算法可靠性評估方 ?開發(fā)方 □用戶方 □第三方第一階段 第一階段確定深度學(xué)習(xí)網(wǎng)絡(luò)模型壓 確定深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標(biāo) 縮與量化算法可靠性目標(biāo)1.1 1.1 場景分析 場景分析算

6、法運(yùn)行條件 算法運(yùn)行條件部署端：硬件設(shè)備：智能攝像頭操作系統(tǒng)：Linux深度學(xué)習(xí)框架：paddle paddle主機(jī)端：硬 件 設(shè) 備 ：GTX 3090操作系統(tǒng)：Ubuntu深度學(xué)習(xí)模型量化框架：PaddleSlim算法運(yùn)行模式 算法運(yùn)行模式人臉識別算法：攝像頭捕捉影像，對視頻預(yù)處理，發(fā)送云端服務(wù)器中部署的人臉識別算法。 人臉識別首先判斷視頻幀中是否包含人臉， 是否存在遮擋。如果人臉正常，算法判斷人的身份， 如果算法判斷的概率在99%

7、以上，將判斷結(jié)果發(fā)送給閘機(jī)，否則提示工作人員協(xié)助。如果判斷結(jié)果為“準(zhǔn)入”，打開人臉閘機(jī)。模型壓縮與量化算法：1. 取得現(xiàn)有的人臉識別深度學(xué)習(xí)模型，取得原始訓(xùn)練數(shù)據(jù)；2. 在主機(jī)端加載人臉識別模型，對模型進(jìn)行壓縮與量化，得到壓縮后模型；3. 加載新模型，得到判斷結(jié)果，評價結(jié)果的任務(wù)指標(biāo)與性能；如果指標(biāo)與性能符合需求階段設(shè)計(jì)的要求，使用新模型替換現(xiàn)有的人臉識別模型，如果不符合需求階段設(shè)計(jì)的要求，從設(shè)計(jì)階段，實(shí)現(xiàn)階段分析問題重新進(jìn)行模型壓縮與