基于深度自動編碼器的特征提取算法研究.pdf

1、機器學習在人工智能領(lǐng)域中扮演著極為重要的角色，它使得機器能夠?qū)Ω鞣N事物構(gòu)建模型，通過這些模型，機器就能夠?qū)ξ覀兊氖澜缧纬伞罢J識”。近年來，機器學習能力得到了突飛猛進的發(fā)展，一方面歸功于計算機硬件技術(shù)迅速發(fā)展使得存儲成本大幅降低、計算速度大幅提升;更重要的是關(guān)于機器學習算法的研究獲得了突破性進展，尤其是近年深度學習算法的提出，使得機器對世界的認識能力有了質(zhì)的飛躍。
　　深度自動編碼器是深度學習算法之一，它是一種深層神經(jīng)網(wǎng)絡(luò)，其最大的

2、特點就是通過一種非監(jiān)督的逐層預(yù)訓練使得網(wǎng)絡(luò)有一個較好的初始值，再通過有監(jiān)督的微調(diào)訓練調(diào)整整個網(wǎng)絡(luò)的權(quán)值，最終能夠有效地提取數(shù)據(jù)中關(guān)鍵信息，形成特征。本文在研究深度自動編碼器算法的同時，也注重研究各類常用特征提取算法與分類器算法，通過實驗比較各類算法差異，并探索改進深度自動編碼器的方式。本論文主要研究內(nèi)容如下:
　　(1)研究了多種征特征提取算法，包括經(jīng)典的特征提取算法:主成分分析、線性判別分析、核主成分分析，為區(qū)別深度學習算法，本

3、文中將其概括為“淺層”學習算法。除了深度自動編碼器外，本文還研究了基于受限玻爾茲曼機的深度學習算法，包括自動編碼器的幾種改進。通過圖像識別實驗對各個算法性能進行比較。
　　(2)研究了多種分類器，包括Softmax、支持向量機以及K最近鄰。將深度自動編碼器與各種分類器結(jié)合，通過實驗比較分類性能。
　　(3)為了進一步提升深度自動編碼器的特征學習能力，提出一種基于棧式去噪自動編碼器的邊際Fisher分析算法，該算法將邊際Fis