k-l變換進(jìn)行特征提取

1、利用KL變換進(jìn)行特征提取的實(shí)驗(yàn)一、基本要求用FAMALE.TXT和MALE.TXT的數(shù)據(jù)作為本次實(shí)驗(yàn)使用的樣本集，利用KL變換對該樣本集進(jìn)行變換，與過去用Fisher線性判別方法或其它方法得到的分類面進(jìn)行比較，從而加深對所學(xué)內(nèi)容的理解和感性認(rèn)識(shí)。二、具體做法1.不考慮類別信息對整個(gè)樣本集進(jìn)行KL變換（即PCA），并將計(jì)算出的新特征方向表示在二維平面上，考察投影到特征值最大的方向后男女樣本的分布情況并用該主成分進(jìn)行分類2.利用類平均向量提

2、取判別信息，選取最好的投影方向，考察投影后樣本的分布情況并用該投影方向進(jìn)行分類。3.將上述投影和分類情況與以前做的各種分類情況比較，考察各自的特點(diǎn)和相互關(guān)系。三、實(shí)驗(yàn)原理KL變換是一種基于目標(biāo)統(tǒng)計(jì)特性的最佳正交變換。它具有一些優(yōu)良的性質(zhì)：即變換后產(chǎn)生的新的分量正交或者不相關(guān)；以部分新的分量表示原矢量均方誤差最??；變換后的矢量更趨確定，能量更集中。這一方法的目的是尋找任意統(tǒng)計(jì)分布的數(shù)據(jù)集合之主要分量的子集。設(shè)n維矢量，其均值矢量，協(xié)方差陣

3、12Tnxxx?????x?E?????μx（3）用比較分類性能，選擇最佳投影方向??TjbjjjuSuJX??（4）選取閾值進(jìn)行判斷四、實(shí)驗(yàn)結(jié)果與分析1.不考慮類別信息對整個(gè)樣本集進(jìn)行KL變換（即PCA）U=(0.62690.7791)TP1=0.5P2=0.5判錯(cuò)個(gè)數(shù)錯(cuò)誤率采用KL變換判別方法1414%采用Fisher線性判別方法1212%2.利用類平均信息提取判決信息U=(0.58180.8133)TP1=0.5P2=0.5判錯(cuò)個(gè)