深度學習網(wǎng)絡(luò)模型壓縮與量化算法可靠性評估指標選取規(guī)則、實施案例

1、T/SZROBOT 0004—202313附錄A（規(guī)范性附錄）深度學習網(wǎng)絡(luò)模型壓縮與量化算法可靠性評估指標選取規(guī)則表 A.1 給出了深度學習網(wǎng)絡(luò)模型壓縮與量化算法的可靠性評估指標的選取規(guī)則。針對不同級別的的深度學習網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標開展相關(guān)評估活動。表A.1 選取規(guī)則階段可靠性目標評估指標算法功能實現(xiàn)的正確性 算法功能實現(xiàn)的性能 量化數(shù)據(jù)集的影響 軟硬件平臺依賴的影響 環(huán)境數(shù)據(jù)的影響任務(wù)指標指標損失度響應(yīng)時間參數(shù)大小壓縮比

2、計算復雜度加速比運行時內(nèi)存壓縮比數(shù)據(jù)集均衡性數(shù)據(jù)集規(guī)模數(shù)據(jù)集標注質(zhì)量數(shù)據(jù)集污染情況深度學習框架差異操作系統(tǒng)差異硬件架構(gòu)差異干擾數(shù)據(jù)數(shù)據(jù)集分布遷移野值數(shù)據(jù)需求階段A ● ● ● ● ● ● * * * * ● ● ● * * *B ● ● ○ ● ● ○ * * * * ● ○ ○ * * *C ● ● ○ ● ○ ○ * * * * ○ ○ ○ * * *設(shè)計階段A ● ● ● ● ● ● ● ● ● ● * * * * * *B ●

3、● ○ ● ● ○ ● ● ○ ○ * * * * * *C ● ● ○ ● ○ ○ ● ○ ○ ○ * * * * * *注：“●”表示對于指定的深度學習網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標，必須選擇的二級指標；“○”表示對于指定的深度學習網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標，推薦選擇的二級指標；“*”表示不適用。T/SZROBOT 0004—202315附錄B（資料性附錄）深度學習網(wǎng)絡(luò)模型壓縮與量化算法可靠性評估實施案例表 B.1 給出人臉

4、識別模型壓縮與量化算法可靠性評估實施案例。表B.1 人臉識別模型壓縮與量化算法可靠性評估實施案例算法 算法名稱 名稱 人臉識別模型壓縮與量化算法說明 算法說明人臉識別是基于人的臉部特征信息進行身份識別的一種生物識別技術(shù)。其通過攝像機或攝像頭采集含有人臉的圖像或視頻流，在圖像中檢測跟蹤人臉，并在人臉數(shù)據(jù)庫中進行人臉檢索核實身份，人臉識別閘機系統(tǒng)將傳統(tǒng)閘機設(shè)備集成人臉識別能力，用戶在閘機處提供人臉影像進行人臉抽取，采集到的人臉進行云端人臉識

5、別身份驗證， 閘機隨識別驗證結(jié)果做相應(yīng)響應(yīng)。 該系統(tǒng)將應(yīng)用于世博會的門禁系統(tǒng)中。任務(wù)指標高的模型通常參數(shù)量大，響應(yīng)時間慢，運行時內(nèi)存占用高，模型壓縮與量化算法可以在保證任務(wù)指標的情況下減少參數(shù)量，提高響應(yīng)速度，減小運行時內(nèi)存占用。算法可靠性評估方 算法可靠性評估方 ?開發(fā)方 □用戶方 □第三方第一階段 第一階段確定深度學習網(wǎng)絡(luò)模型壓 確定深度學習網(wǎng)絡(luò)模型壓縮與量化算法可靠性目標 縮與量化算法可靠性目標1.1 1.1 場景分析 場景分析算

6、法運行條件 算法運行條件部署端：硬件設(shè)備：智能攝像頭操作系統(tǒng)：Linux深度學習框架：paddle paddle主機端：硬 件 設(shè) 備 ：GTX 3090操作系統(tǒng)：Ubuntu深度學習模型量化框架：PaddleSlim算法運行模式 算法運行模式人臉識別算法：攝像頭捕捉影像，對視頻預處理，發(fā)送云端服務(wù)器中部署的人臉識別算法。 人臉識別首先判斷視頻幀中是否包含人臉， 是否存在遮擋。如果人臉正常，算法判斷人的身份， 如果算法判斷的概率在99%

7、以上，將判斷結(jié)果發(fā)送給閘機，否則提示工作人員協(xié)助。如果判斷結(jié)果為“準入”，打開人臉閘機。模型壓縮與量化算法：1. 取得現(xiàn)有的人臉識別深度學習模型，取得原始訓練數(shù)據(jù)；2. 在主機端加載人臉識別模型，對模型進行壓縮與量化，得到壓縮后模型；3. 加載新模型，得到判斷結(jié)果，評價結(jié)果的任務(wù)指標與性能；如果指標與性能符合需求階段設(shè)計的要求，使用新模型替換現(xiàn)有的人臉識別模型，如果不符合需求階段設(shè)計的要求，從設(shè)計階段，實現(xiàn)階段分析問題重新進行模型壓縮與