模糊聚類、分類和模糊積分中的幾個問題.pdf

1、浙江大學(xué)博士后學(xué)位論文模糊聚類、分類和模糊積分中的幾個問題姓名：岳士弘申請學(xué)位級別：博士后專業(yè)：運(yùn)籌與控制指導(dǎo)教師：陳叔平20021001C h a p t e r 1F u z z y c l u s t e r i n gF C M ：s o m e a c h i e v e m e n t si na p p l i c a b l e a r e aC l u s t e r i n gh a sl o n gb e e na

2、p o p u l a ra p p r o a c ht ou n s u p e r v i s e dp a t t e mr e c o g n i t i o n [ 1 】．F u z z yc l u s t e r i n gh a sb e e ns h o w n t ob ea d v a n t a g e o u so v e rc r i s p ( t r a d i t i o n a l ) c l u

3、 s t e r i n gi nt h a tt o t a lc o m m i t m e n to f av e c t o rt oag i v e nc l a s si s n o tr e q u i r e di 1 1 e a c hi t e r a t i o n ．I th a sb e c o m em o r ea t t r a c t i v ew i t h t h ec o n n e c U o

4、n t on e u r a l n e t w o r k 【2 】一[ 4 1 ，a n dw i t ht h ei n c r e a s e da t t e n t i o nt of u z z yc l u s t e r i n g 【5 ] 【6 ] ．O n eo f t h em a j o rf a c t o r st h a ti n f l u e n c et h ed e t e r m i n a

5、t i o no f a p p r o p r i a t eg r o u p so f p o i n t si s t h e ‘‘d i s t a n c em e a s u r e “ ’c h o s e nf o rt h ep r o b l e ma th a n d ．I nf a c tr e c e n ta d v a n c e si nf u z z yc l u s t e r i n gh a v

6、 es h o w ns p e c t a c u l a ra b i l i t yt od e t e c t n o to n l y h y p e r v o l u m e c l u s t e r s ，b u ta l s oc l u s t e r sW h i c h a r e a c t u a l l y ‘' t h i ns h e U s ”，i ．e ．，c t l r v e sa n

7、 d s u r f a c e s [ 8 】．[ 1 3 1 ．M o s ta n a l y t i c f u z z y c l u s t e r i n g a p p r o a c h e s a r e d e r i v e d f r o m B e z d e k ’s f u z z y C - m e a n sa l g o r i t h m ( 1 4 ] ，T h eF C M a l g o r

8、 i t h m a n d i t sh a v e b e e n u s e d v e r y s u c c e s s f u l l y i nm a n y a p p l i c a t i o n s ,p a r t i c u l a r l yt h o s e ( s u c h a sp a t t e r nc l a s s i f i c a t i o na n d i m a g es e g m

9、 e n t a t i o n ) m w h i c h t h e f m a l g o a lo ft h e t a s k i s t o m a k ea 斑S pd e c i s i o n ．T h e F C M1 1 s 骼t h e p r o b a b f l i s t i c c o n s t r a i n t t h a t t h em e m b e r s h i p s o f ad a

10、 t a p o i n t a c r o s sc l a s s e sm u s t s u m 1 ．T h i sc o n s t r a i n ta s s u m ef r o m g e n e r a l i z i n ga c r i s pC ·p a r t i t i o no f a d a t as e t , a n d w a s u s e d t og e n e r a t e

11、t h em e m b e r s h i p u t x l a t ee q u a t i o n s f o ra l li t e r a t i v ea l g o r i t h mb a s e do nt h em i n i m i z a t i o no f al e a s t - s q u a r e st y p eo f c r i t e r i o nf u n c t i o n ．T h e

12、c o n s t r a i n to nm e m b e r s h i p s u s e di nt h eF C M a l g o r i t h mi s m e 越' I tt oa v o i dt r i v i a ls o l u t i o no f a l lm e m b e r s h i pb e i n ge q u a lt o 0 ，a n di t d o e sg i v em e

13、a n m g f t ar e s u l t s i n a p p l i c a t i o n sw h e r ei t i sa p p r o p r i a t et o i n t e r p r e tm e m b e r s h i p sa sp r o b a b i l i t i e s o f 出；g 嗽so fs h a r i n g ．F o re x a m p l e ，t h eu n s

14、 u p e r v i s e df u z z yp a r t i t i o n - o p t i m u mo fc l u s t e r s a l g o r 洫m ．i ．- m - o d u c e db yC - a t ha n dG e v a [ 5 】m t e r p r e t s t h em e m b e r s h i p v a l u e sa Sl i k e l i h o o de

15、 s R m a t e s w i t hi m p r e s s i v er e s u l t s ．H o w e v e r , s m c et h em e m b e r s h i p sg e n e r a t e db yt h i s c o n s t r a i n t a r er e l a t i v em e m b e r s ，t h e ya r en o ts u i t a b l e

16、 f o ra p p l i c a t i o n si nw h i c ht h em e m b e r s h i p sa r es u p p o s e dt or e p r e s e n t ‘‘t y p i c a l i t y “ o rc o m p a t l b i l i t yw i t ha ne l a s t i c c o n s t r a m t [ 1 5 】[ 1 6 】．A t

17、t h e s a l n et i m e ，t h e l a c ko fg o o dm e t h o d st o g e n e r a t em e m b e r s h i p sf u n c t i o n sa u t o m a t i c a l l yf r o m t r a i n i n gd a t ar e m a i n s a s e r i o u sp r o b l e mm m a

18、n ys e ta p p l i c a t i o n ，i n c l u d i n g m u l t i c r i t e r i ad e c i s i o n m a k i n g ．r u l e - b a s e d r e a s o n i n g a n d c o n t r o l [ 1 8 1 - [ 2 0 】1 D e a l w i t h t h e o u t f i e rb y F

19、 C M1 ．1I n t r o d u c t i o nC l u s t e r i n ga l g o r i t h m st r yt op a r t i t i o na s e to f u n l a b e l e di n p u tv e c t o r si n t oan u m b e r o f s u b s e t s( c l u s t e r s ) s u c ht h a td a t

20、 ai nt h es a l l l es u b s e t a 1 1 em o r es i m i l a rt oe a c ho t h e rt h a nt od a t ai I l o t h e rs u b s e t s ．T h e r ea r et w o k i n d s o f u n s u p e r v i s e d c l u s t e r i n ga l g o r i t h m

21、 s ：h i e r a r c h i c a l v e r s u s p a r t i t i o n e d ．H i e r a r c h i c a lc l u s t e r i n gg e n e r a t e sas e q u e n c eo fn e s t e dp a r t i t i o n sf r o m t h ep r o x i m i t ym a t r i x ．I ns o

22、 c i a l ，b i o l o g i c a l ，a n db e h a v i o r a ls c i e n c e s ，h i e r a r c h i c a lc l u s t e r i n gt e c h n i q u e sa r ep o p u l a r b e c a u s eo f t h e n e c e s s i t y t o p r o d u c et a x o n

23、o m i e s ．P a r t i t i o n e d c l u s t e r i n g i su s e d f r e q u e n t l y i n t h ee n g i n e e r i n ga p p l i c a t i o n ss u c ha sd a t ac o m p r e s s i o n a n di m a g es e g m e n t a t i o n ．As i

24、n g l ep a r t i t i o no f t h ed a t ai sg e n e r a t e di np a r t i t i o n e dc l u s t e r i n g ．C l u s t e r i n ga l g o r i t h m sc a n a l s ob e d i v i d e d i n t ot w o t y p e s ：h a r dv e r s u sf u

25、z z y H a r d ( c r i s po rc o n v e n t i o n a l ) c l u s t e r i n ga s s i g n s e a c hm p u tv e c t o rt o e x a c t l yo n ec l u s t e r ．I n f u z z yc l u s t e n u g ．a(chǎn)g i v e n p a t t e r nd o e s n o t n

26、 e c e s s a r i l yb e l o n g t oo n l y o n e ．c l u s t e rb u t c a i lh a v ev a r y i n gd e g r e e so f m e m b e r s h i p st os e v e r a lc l u s t e r s ，M a n yc l u s t e r i n ga l g o r i t h m sc o u l