基于copula理論的分布估計算法研究.pdf

1、分布估計算法綜合了智能計算領域和統(tǒng)計學領域的知識,是一種基于群體的算法,在每代循環(huán)體中,根據(jù)適應值選擇出一些較好的個體組成優(yōu)勢群體,通過分析優(yōu)勢群體的概率分布模型來指導新一代群體的產(chǎn)生。多變量相關的分布估計算法是目前研究的熱點,為反映變量的相關性,往往采用貝葉斯網(wǎng)絡、高斯網(wǎng)絡或馬爾科夫網(wǎng)絡等結(jié)構(gòu)。但是,這些網(wǎng)絡結(jié)構(gòu)的學習本身要花費大量的時間,因此,目前的分布估計算法多數(shù)運行時間花費在對優(yōu)勢群體概率分布模型的估計操作上。有些分布估計算法假

2、設變量服從聯(lián)合正態(tài)分布,通過估計數(shù)學期望和協(xié)方差矩陣獲得具體的概率分布模型。但是由于正態(tài)分布本身具有對稱性等特點,不能準確地反映實際優(yōu)化問題中變量的相關性。而且,由方差和協(xié)方差計算得到的相關系數(shù)也僅僅能夠反映變量之間的線性相關性。因此,基于聯(lián)合正態(tài)分布的分布估計算法優(yōu)化效果一般。
　　 在統(tǒng)計學領域中,copula理論將多變量的聯(lián)合分布函數(shù)分解成為兩個部分:一是各個變量的一維邊緣分布函數(shù),二是反映這些變量相關結(jié)構(gòu)的copula函

3、數(shù)。Copula函數(shù)擯棄了邊緣分布的干擾,而對變量的相關性單獨進行研究。這里的相關性更全面,而不僅僅是線性相關性。學者們通過對大量現(xiàn)實數(shù)據(jù)的分析總結(jié)出了一些典型的copula函數(shù),并對其性質(zhì)進行了深入的研究。本文提出了基于copula理論的分布估計算法,在估計優(yōu)勢群體的概率分布模型時,將邊緣分布函數(shù)的估計操作和copula函數(shù)的估計操作分別進行,實際上這兩個操作是可以獨立地并行實現(xiàn)的。邊緣分布函數(shù)的估計和copula函數(shù)的估計要比復雜網(wǎng)

4、絡結(jié)構(gòu)的學習簡單省時的多。在這一思想下,本文主要完成了以下工作:
　　 (1)通過分析分布估計算法和copula理論,給出了基于copula理論的分布估計算法的總體框架和實現(xiàn)步驟,并證明了該算法的全局收斂性。在模型估計階段,分兩個部分分別進行:估計各個變量的邊緣分布函數(shù);估計copula函數(shù)。在估計copula函數(shù)時,一般是選擇一個帶參數(shù)的copula函數(shù),然后根據(jù)優(yōu)勢群體對其參數(shù)進行估計;或者是根據(jù)優(yōu)勢群體直接構(gòu)造copula

5、函數(shù),如經(jīng)驗copula函數(shù)。在模型采樣階段,主要是對copula函數(shù)的采樣。根據(jù)copula函數(shù)采樣得到服從該分布的單位超立方體上的向量,然后根據(jù)邊緣分布函數(shù)的反函數(shù)計算得出搜索空間中的點作為新個體。理論上證明了在群體規(guī)模無限的情況下,copula分布估計算法收斂于全局最優(yōu)解。
　　 (2)在copuIa分布估計算法框架下分別用二維正態(tài)copula函數(shù)和兩個二維阿基米德copuIa函數(shù)表示變量的相關性,針對二維數(shù)值優(yōu)化問題,實

6、現(xiàn)了三種具體的copula分布估計算法,在理論和實驗上驗證了copula分布估計算法的可行性和有效性。另外,實驗結(jié)果表明阿基米德copula分布估計算法優(yōu)于正態(tài)copula分布估計算法。
　　 (3)針對多維的數(shù)值優(yōu)化問題,提出了經(jīng)驗copula分布估計算法。在估計模型時,將單位超立方體等分成若干個小區(qū)間,統(tǒng)計優(yōu)勢群體中落入各個小區(qū)間的個體數(shù),構(gòu)造經(jīng)驗copula函數(shù),并以此采樣.邊緣分布可以是任何形式的分布,在本文中研究了正態(tài)

7、分布和經(jīng)驗分布兩種情況.在該算法中,經(jīng)驗copula函數(shù)不需要顯式表示出來,而是根據(jù)其構(gòu)造方式直接推出了經(jīng)驗copula函數(shù)的采樣方式,因此在算法具體實現(xiàn)時,只需要統(tǒng)計個體數(shù)并直接采樣就可以.實驗結(jié)果表明,經(jīng)驗copula分布估計算法能夠有效地解決多維數(shù)值優(yōu)化問題,其全局探測能力較強,能夠很快地找到全局最優(yōu)解附近。
　　 (4)針對多維的數(shù)值優(yōu)化問題,提出了阿基米德copula分布估計算法。用阿基米德copula函數(shù)反映優(yōu)化變量

8、之間的相關性,具體實現(xiàn)了Clayton copula EDA、Gumbel copula EDA和Frank copula EDA,在適應值計算次數(shù)相同的條件下,這些阿基米德copula分布估計算法的優(yōu)化效果優(yōu)于典型的分布估計算法。
　　 (5)針對阿基米德copula分布估計算法的參數(shù)和采樣方法進行了研究。提出了兩種參數(shù)的估計方法:PMLE估計和根據(jù)Kendallτ估計。分別針對小種群低維數(shù)、小種群高維數(shù)、大種群低維數(shù)和大種群

9、高維數(shù)四種情況分析了參數(shù)估計對阿基米德copula分布估計算法的影響,并與典型的分布估計算法進行了比較,表明無論在收斂速度還是收斂精度方面,具有參數(shù)估計的阿基米德copula EDA.都優(yōu)于典型的分布估計算法。另外,根據(jù)Kendallτ估計參數(shù)的阿基米德copula EDA比PMLE估計參數(shù)的阿基米德copula EDA更簡單有效。由于copula函數(shù)本身也可以看作是隨機變量,因此可以直接估計其服從的密度函數(shù),并從中采樣。對該采樣方法在