基于化學(xué)數(shù)據(jù)的若干統(tǒng)計(jì)學(xué)習(xí)新方法研究.pdf

1、針對(duì)日益復(fù)雜的數(shù)據(jù)，特別是在構(gòu)效關(guān)系研究和譜數(shù)據(jù)分析領(lǐng)域，如何運(yùn)用統(tǒng)計(jì)學(xué)習(xí)方法從中挖掘出最有用的信息，這是當(dāng)今應(yīng)用統(tǒng)計(jì)研究的一個(gè)熱點(diǎn)問(wèn)題之一。本文在數(shù)據(jù)驅(qū)動(dòng)模式的指導(dǎo)下，以化學(xué)數(shù)據(jù)為背景，經(jīng)過(guò)深入研究一些經(jīng)典的統(tǒng)計(jì)方法，如分類與回歸樹(shù)，支持向量機(jī)，偏最小二乘等的優(yōu)勢(shì)與不足之后，創(chuàng)造性地構(gòu)造了一種新穎的樹(shù)核，提出了一系列新的統(tǒng)計(jì)學(xué)習(xí)方法。研究?jī)?nèi)容主要包括七章。
　　首先，簡(jiǎn)要介紹了本文的研究背景與動(dòng)機(jī)。然后較詳細(xì)地總結(jié)與探討了化學(xué)數(shù)

2、據(jù)分析中一些常用的理論及其方法，指出了它們各自的優(yōu)點(diǎn)與不足，這些是我們研究統(tǒng)計(jì)新方法的基礎(chǔ)。最后介紹了本文的主要內(nèi)容和創(chuàng)新之處（第一章）。
　　第二章樹(shù)核的構(gòu)造是我們第一次提出來(lái)，是我們的重要?jiǎng)?chuàng)新之一。在深入研究CART原理的基礎(chǔ)上，我們首次指出同一終節(jié)點(diǎn)中的樣本不僅僅具有類別的相似性，可能擁有其它某種特定的相似性。同時(shí)為得到結(jié)構(gòu)多種多樣的樹(shù)，我們將蒙特卡洛方法耦合到分類樹(shù)算法中，通過(guò)使用fuzzy修剪和集成策略，巧妙地構(gòu)造了一種

3、新穎的樹(shù)核。這fuzzy修剪策略，能夠有效的探索節(jié)點(diǎn)內(nèi)部的信息，但不完整地破壞樹(shù)的結(jié)構(gòu)。集成策略能更加體現(xiàn)數(shù)據(jù)中的有規(guī)律的信息，使得結(jié)果更穩(wěn)定。這是我們構(gòu)造樹(shù)核的原始動(dòng)機(jī)。在構(gòu)建樹(shù)核的過(guò)程中，通過(guò)建立大量的樹(shù)模型，為了尋找與分類最相關(guān)的變量集以及在不同變量空間中具有特定相似性的樣本集，分類樹(shù)模型同時(shí)在變量空間和樣本空間執(zhí)行一個(gè)貪婪但不一定是全局最優(yōu)的搜尋。這樣，大量的樹(shù)模型能夠有效地發(fā)現(xiàn)樣本之間的相似性，同時(shí)，能夠評(píng)估每一個(gè)變量的重要性

4、。自然地，我們構(gòu)造的樹(shù)核具有以下優(yōu)點(diǎn):第一，它是屬于有監(jiān)督學(xué)習(xí)，因?yàn)樵诤说臉?gòu)造過(guò)程中，類的信息暗示著樹(shù)的結(jié)構(gòu)。第二，由于無(wú)關(guān)的變量對(duì)樹(shù)集群的貢獻(xiàn)很小，這樣它們對(duì)樹(shù)核的測(cè)量值的影響就很小，從而能夠有效地發(fā)現(xiàn)重要變量。第三，由于結(jié)合了分類樹(shù)算法，它能夠處理非線性問(wèn)題。
　　然后在核方法的框架下，我們將構(gòu)造的新穎樹(shù)核融入到支持向量機(jī)，偏最小二乘和k-最近鄰算法中，提出了三種新的統(tǒng)計(jì)學(xué)習(xí)方法:樹(shù)核支持向量機(jī)(TKSVM)，樹(shù)核偏最小二乘(

5、TKPLS)和樹(shù)核k-最近鄰分類方法。三個(gè)SAR數(shù)據(jù)集的實(shí)證結(jié)果表明，構(gòu)造的樹(shù)核所具有的優(yōu)點(diǎn)能夠有效改進(jìn)這些傳統(tǒng)的算法。
　　針對(duì)高維光譜數(shù)據(jù)，我們提出了一種新的建模方法PLSSIS。高維光譜數(shù)據(jù)（如近紅外）分析的困難在于量測(cè)的數(shù)據(jù)在呈現(xiàn)出很高共線性的同時(shí)，含有大量的冗余信息。通常會(huì)應(yīng)用PLS方法來(lái)處理。然而，PLS方法所建立的模型包括了所有的原始變量，其中包含冗余信息，這會(huì)降低模型的預(yù)測(cè)性能。我們通過(guò)運(yùn)用PLS回歸系數(shù)，結(jié)合安全

6、獨(dú)立篩選SIS(sure independence screening)原理來(lái)逐步選擇重要的變量，提出了一種基于安全獨(dú)立篩選的偏最小二乘回歸(PLSSIS)的新變量選擇策略。PLSSIS是一種結(jié)合了PLSR和SIS的前向迭代算法，能夠快速有效地處理高維共線性數(shù)據(jù)。三個(gè)光譜數(shù)據(jù)集實(shí)驗(yàn)結(jié)果表明，比較標(biāo)準(zhǔn)的PLS方法和移動(dòng)窗口偏最小二乘方法回歸MWPLSR(moving window partial least squares regress