機(jī)器學(xué)習(xí)及其神經(jīng)網(wǎng)絡(luò)分類器優(yōu)化設(shè)計(jì).pdf

1、機(jī)器學(xué)習(xí)以知識的自動獲取和產(chǎn)生為研究目標(biāo),是人工智能領(lǐng)域研究的熱點(diǎn)問題之一.分類器的優(yōu)化設(shè)計(jì)一直是機(jī)器學(xué)習(xí)、模式識別和數(shù)據(jù)挖掘等領(lǐng)域研究的核心問題,它在圖像識別、語音理解、自然語言處理、醫(yī)療診斷及Web頁面的分類等領(lǐng)域具有廣泛的應(yīng)用.如何提高分類器對環(huán)境的適應(yīng)能力,是分類器優(yōu)化設(shè)計(jì)的關(guān)鍵問題.應(yīng)用機(jī)器學(xué)習(xí)方法實(shí)現(xiàn)分類器的優(yōu)化設(shè)計(jì),是機(jī)器學(xué)習(xí)和人工智能界的一個重要研究課題. 本文以機(jī)器學(xué)習(xí)及其在神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)中的應(yīng)用為研究內(nèi)容

2、,重點(diǎn)研究了機(jī)器學(xué)習(xí)在求解神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)中的網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化和樣本選擇優(yōu)化問題的方法.本文的主要研究工作如下: 1)從分類器設(shè)計(jì)的角度出發(fā),討論了機(jī)器學(xué)習(xí)的最新發(fā)展方向及面臨的具體問題,并對近年來出現(xiàn)的一些新機(jī)器學(xué)習(xí)方法進(jìn)行了分析和研究. 2)研究了流形學(xué)習(xí)的分類器網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化設(shè)計(jì)問題,針對利用神經(jīng)網(wǎng)絡(luò)對同一對象的非線性結(jié)構(gòu)樣本集進(jìn)行分類和識別時,如何合理地設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)的問題,提出了一個新穎的基于低維參數(shù)空間估計(jì)的神經(jīng)網(wǎng)

3、絡(luò)結(jié)構(gòu)設(shè)計(jì)的方法.該方法以流形學(xué)習(xí)為基礎(chǔ),結(jié)合samm饑系數(shù)有效估計(jì)出低維參數(shù)空間大小,并將此對應(yīng)到神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)分組設(shè)計(jì)的隱節(jié)點(diǎn)分組數(shù)目上,從而設(shè)計(jì)出具有一定泛化能力的網(wǎng)絡(luò)結(jié)構(gòu). 3)研究了主動學(xué)習(xí)的分類器樣本優(yōu)化選擇準(zhǔn)則:針對模糊神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)過程中所遇到的樣本采樣與標(biāo)記過程耗時長、代價大的問題,提出了一個新穎的模糊神經(jīng)網(wǎng)絡(luò)樣本主動選擇準(zhǔn)則,以最小一最大邊界法以及確定樣本的不確定性閾值兩個新概念來定義樣本的選擇標(biāo)準(zhǔn),確保選

4、擇其中信息量盡可能大的樣本進(jìn)行標(biāo)記,使得網(wǎng)絡(luò)設(shè)計(jì)過程中對未標(biāo)記樣本的標(biāo)記工作量和時間大為減少. 4)未標(biāo)記樣本的模糊神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì):針對已標(biāo)記和未標(biāo)記樣本的混合分類問題,提出了一種基于非刻度一多維度收縮的、新的排序一模糊神經(jīng)網(wǎng)絡(luò)分類器模型.該模型首先利用非刻度一多維度收縮法對輸入的所有樣本進(jìn)行了排序,然后獲得樣本間的相似性測度值,并利用該相似性測度值指導(dǎo)隨后的分類器超盒擴(kuò)張與壓縮過程,從而使得該模型不僅提高了對未標(biāo)記樣本進(jìn)行