基于自動(dòng)編碼器的混合深度網(wǎng)絡(luò)學(xué)習(xí)模型.pdf

1、近年來，深度神經(jīng)網(wǎng)絡(luò)是人工智能和大數(shù)據(jù)分析領(lǐng)域研究的熱點(diǎn)，深度神經(jīng)網(wǎng)絡(luò)通過組合低層特征形成更加抽象的高層表示屬性以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。自動(dòng)編碼器作為一種基本的深度學(xué)習(xí)模型，并以此為基本框架構(gòu)造深度神經(jīng)網(wǎng)絡(luò)，通過無監(jiān)督的特征學(xué)習(xí)過程提取數(shù)據(jù)特征或?qū)傩?，已?jīng)在機(jī)器學(xué)習(xí)預(yù)測(cè)和識(shí)別領(lǐng)域取得了顯著的成就。
　　為了充分發(fā)揮自動(dòng)編碼器模型特征學(xué)習(xí)的優(yōu)勢(shì)，本文基于傳統(tǒng)自動(dòng)編碼器設(shè)計(jì)了一種混合深度學(xué)習(xí)模型，其中混合了降噪自動(dòng)編碼器和收縮自動(dòng)

2、編碼器的訓(xùn)練過程和約束條件。降噪自動(dòng)編碼器是在輸入數(shù)據(jù)上添加一定比例的噪聲干擾，在訓(xùn)練學(xué)習(xí)過程中使得自動(dòng)編碼器能夠更好的重構(gòu)輸入，從而取得具有對(duì)噪聲干擾具有魯棒性的特征表達(dá);收縮自動(dòng)編碼器損失函數(shù)中的正則化目標(biāo)為編碼器Jacobian矩陣的Frobenius范數(shù)，其作用是降低極小化變量對(duì)編碼器的影響，輔助編碼器更好的學(xué)習(xí)特征。本文提出的混合學(xué)習(xí)模型是采用模塊拼裝的方法建立深度網(wǎng)絡(luò)結(jié)構(gòu)，將降噪自動(dòng)編碼器單元和收縮自動(dòng)編碼器單元同時(shí)引入同一