基于圖的嵌入和維數(shù)約減方法研究.pdf

1、在過(guò)去十多年間，數(shù)據(jù)收集和存儲(chǔ)能力的顯著進(jìn)步在生物、天文學(xué)、統(tǒng)計(jì)學(xué)和經(jīng)濟(jì)學(xué)等許多科學(xué)領(lǐng)域都引起了“信息過(guò)載”的問(wèn)題。研究者需要面對(duì)越來(lái)越海量的數(shù)據(jù)，和已經(jīng)經(jīng)過(guò)廣泛研究的傳統(tǒng)小數(shù)據(jù)集不同，這類數(shù)據(jù)對(duì)數(shù)據(jù)分析方法提出了新的挑戰(zhàn)。幸運(yùn)的是，很多實(shí)際數(shù)據(jù)集都存在隱含的少量參數(shù)控制其主要的分布變化，類似的情況出現(xiàn)在很多不同的研究領(lǐng)域中獲取的高維數(shù)據(jù)中，比如生物信息學(xué)、機(jī)器人導(dǎo)航和自然語(yǔ)言處理等。這些隱含參數(shù)描述了一個(gè)低維流形，可以通過(guò)記錄哪些流形

2、上的點(diǎn)為近鄰的圖來(lái)表示。通過(guò)圖嵌入，我們便可以獲取描述隱含參數(shù)的低維坐標(biāo)，進(jìn)而揭示出數(shù)據(jù)潛在的結(jié)構(gòu)，從而使數(shù)據(jù)探索、可視化和建模的性能更優(yōu)。圍繞這一目標(biāo)，全文的主要工作概括如下:
　　 (1)線性判別分析(linear discriminant analysis，LDA)在數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)和生物信息學(xué)等領(lǐng)域是最為常用的有監(jiān)督特征提取和維數(shù)約減工具之一?？墒?，LDA的計(jì)算通常需要求解稠密矩陣對(duì)的廣義特征分解，計(jì)算負(fù)擔(dān)較大，難以應(yīng)

3、用于大規(guī)模數(shù)據(jù)集。因此，在本文中我們提出瑞利-瑞茨判別分析（Rayleigh-Ritz discriminant analysis，RRDA）用于求解LDA，不同于以往需要將LDA轉(zhuǎn)換為回歸問(wèn)題的相關(guān)方法，RRDA建立在求解通用特征值問(wèn)題的瑞利-瑞茨框架基礎(chǔ)上，同時(shí)，通過(guò)利用LDA問(wèn)題的特殊結(jié)構(gòu)，我們得以設(shè)計(jì)出快速的子空間擴(kuò)展和瑞茨向量擴(kuò)展策略。為了降低LDA應(yīng)用中常見(jiàn)的樣本不足問(wèn)題的計(jì)算復(fù)雜度，我們也為其建立了RRDA的等價(jià)快速形式。

4、此外，我們進(jìn)一步討論了RRDA的實(shí)現(xiàn)細(xì)節(jié)和收斂結(jié)果。在多個(gè)真實(shí)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明了RRDA的有效性。
　　 (2)正則化線性判別分析（regularized linear discriminant analysis，RLDA）是用于處理LDA中小樣本問(wèn)題（small sample size，SSS）的維數(shù)約減方法。RLDA的一個(gè)尚未解決的重要問(wèn)題是如何快速確定合適的正則參數(shù)，而不需訴諸交叉驗(yàn)證等擴(kuò)展性較差的方法。在本文中，基

5、于RLDA的幾何解釋，我們提出一種新穎的RLDA參數(shù)選擇方法。我們進(jìn)而給出所提出方法的理論分析，證明它對(duì)于訓(xùn)練數(shù)據(jù)特征空間的擾動(dòng)具有魯棒性。在多個(gè)基準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果證明了該方法的有效性。
　　 (3)蛋白質(zhì)相互作用網(wǎng)絡(luò)為理解生物過(guò)程、功能和細(xì)胞內(nèi)在復(fù)雜演化機(jī)制提供了新的渠道。為蛋白質(zhì)網(wǎng)絡(luò)建模，找出需要更少的結(jié)構(gòu)假設(shè)、對(duì)噪音魯棒和擬合能力更強(qiáng)的網(wǎng)絡(luò)模型仍然是系統(tǒng)生物學(xué)的重要課題。在本文中，我們提出一種基于圖嵌入的t-邏輯斯蒂語(yǔ)

6、意嵌入（t-logistic semantic embedding，t-LSE）模型為蛋白質(zhì)相互作用網(wǎng)絡(luò)建模。基于蛋白質(zhì)網(wǎng)絡(luò)的幾何假設(shè)，t-LSE試圖自適應(yīng)地將網(wǎng)絡(luò)嵌入到低維空間，并使用非凸損失函數(shù)降低噪音的影響，實(shí)驗(yàn)結(jié)果證明相比于其它主流網(wǎng)絡(luò)模型，t-LSE的擬合能力更強(qiáng)，同時(shí)我們所選取的非凸損失函數(shù)也顯著地提高了對(duì)于蛋白質(zhì)網(wǎng)絡(luò)噪音的處理能力。由此，我們所提出的模型可以有助于基于圖的蛋白質(zhì)相互作用網(wǎng)絡(luò)研究，更好地推斷出其隱含的生物知識(shí)