貝葉斯網(wǎng)絡(luò)在數(shù)據(jù)挖掘中的應(yīng)用研究.pdf

1、貝葉斯網(wǎng)絡(luò)以其豐富的概率表達(dá)能力、綜合先驗(yàn)知識(shí)的增量學(xué)習(xí)特性以及穩(wěn)固的數(shù)學(xué)基礎(chǔ)已經(jīng)在許多領(lǐng)域內(nèi)得到了廣泛應(yīng)用，成為當(dāng)前機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘的研究熱點(diǎn)之一，其關(guān)鍵技術(shù)之一是貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)學(xué)習(xí)，這也是本課題的主要研究方向。由于貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜度隨論域中結(jié)點(diǎn)個(gè)數(shù)的增加呈指數(shù)上升，如何構(gòu)建最佳貝葉斯網(wǎng)絡(luò)成為NP難題。本課題將從數(shù)據(jù)庫(kù)信息出發(fā)，利用多種優(yōu)化算法，從而完成構(gòu)建最佳貝葉斯網(wǎng)絡(luò)的工作，并進(jìn)行算法的性能比較分析。 主要研究?jī)?nèi)容

2、和成果包括： 1、驗(yàn)證基于數(shù)據(jù)庫(kù)信息構(gòu)建貝葉斯網(wǎng)絡(luò)的遺傳算法。該方法以實(shí)例數(shù)據(jù)庫(kù)作為樣本信息，利用遺傳算法全局尋優(yōu)的特性，從大量結(jié)構(gòu)模型中快速搜索最佳結(jié)構(gòu)模型，從而完成貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)的構(gòu)建。該方法避免了只使用專(zhuān)家知識(shí)所帶來(lái)的主觀偏見(jiàn)，又避免了缺乏樣本信息的大量盲目搜索。試驗(yàn)表明，該方法充分利用了遺傳算法的尋優(yōu)能力，可以較好地完成構(gòu)建最佳貝葉斯網(wǎng)絡(luò)的工作。 2、提出基于數(shù)據(jù)庫(kù)信息構(gòu)建貝葉斯網(wǎng)絡(luò)的免疫遺傳算法。在實(shí)際應(yīng)用標(biāo)準(zhǔn)

3、遺傳算法時(shí)，若算法的終止條件設(shè)計(jì)不恰當(dāng)，往往出現(xiàn)早熟收斂和收斂性能差等缺點(diǎn)，因此本課題提出利用免疫遺傳算法對(duì)此加以改進(jìn)。該方法將生命科學(xué)中免疫的原理與遺傳算法相結(jié)合，從而提高算法的整體性能，并有選擇、有目的地利用待求解問(wèn)題中的一些專(zhuān)家知識(shí)來(lái)抑制優(yōu)化過(guò)程中種群退化現(xiàn)象的出現(xiàn)。試驗(yàn)表明，改進(jìn)后的算法在搜索效率上較標(biāo)準(zhǔn)遺傳算法有了很大提高，并且有效地抑制了早熟現(xiàn)象。另外，標(biāo)準(zhǔn)遺傳算法在出現(xiàn)最優(yōu)結(jié)果之后出現(xiàn)了振蕩現(xiàn)象，而免疫遺傳算法較好地避免了

4、此問(wèn)題。 3、提出基于MDL理論構(gòu)建貝葉斯網(wǎng)絡(luò)的GASA混合優(yōu)化算法?；诰幋a理論的最小描述長(zhǎng)度(MDL)原理可以有效地兼顧網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性和數(shù)據(jù)的描述精度兩方面。本課題中將以MDL作為遺傳算法的評(píng)分函數(shù)，利用遺傳算法與模擬退火算法相結(jié)合的混合優(yōu)化算法來(lái)完成構(gòu)建最佳貝葉斯網(wǎng)絡(luò)的工作。試驗(yàn)表明，相對(duì)GA盡管混合優(yōu)化算法自適應(yīng)地增加了一定的優(yōu)化步數(shù)，但以MDL作為評(píng)分函數(shù)，減少了計(jì)算復(fù)雜度，因此比利用GA構(gòu)建貝葉斯網(wǎng)絡(luò)的方法在時(shí)間性

5、能上有所提高，并且GASA混合優(yōu)化算法在搜索過(guò)程中波動(dòng)率小，可以避免早熟現(xiàn)象的產(chǎn)生，優(yōu)化結(jié)果可靠。 4、進(jìn)一步改進(jìn)基于MDL理論構(gòu)建貝葉斯網(wǎng)絡(luò)的GASA混合優(yōu)化算法。MDL理論可以有效地平衡網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性和數(shù)據(jù)描述的精確性，但不具備處理先驗(yàn)知識(shí)的能力，沒(méi)有利用網(wǎng)絡(luò)結(jié)構(gòu)的繼承性，有較大局限性。針對(duì)這一問(wèn)題，本課題對(duì)MDL理論加以改進(jìn)，增加一項(xiàng)目標(biāo)網(wǎng)絡(luò)結(jié)構(gòu)與先驗(yàn)網(wǎng)絡(luò)結(jié)構(gòu)差異度的指標(biāo)，從而使MDL準(zhǔn)則能利用先驗(yàn)知識(shí)，實(shí)現(xiàn)復(fù)雜性、精確