矩陣分解在數(shù)據(jù)挖掘中的應(yīng)用.pdf

1、矩陣分解在很多需要數(shù)據(jù)挖掘技術(shù)的實際應(yīng)用中非常熱門，例如信息檢索，機(jī)器視覺和模式識別等領(lǐng)域。矩陣分解旨在使用兩個或者更多的低維矩陣來逼近一個高維矩陣。在現(xiàn)實應(yīng)用中，數(shù)據(jù)通常會有各種各樣的特點:數(shù)據(jù)可能會有全局幾何結(jié)構(gòu);數(shù)據(jù)也可能是非常稀疏的;訓(xùn)練數(shù)據(jù)集可能是非常有限的。這就需要人們圍繞數(shù)據(jù)的特點設(shè)計不同的矩陣分解方法。本文研究了矩陣分解在實際應(yīng)用中的一些突出問題。基于現(xiàn)有的工作，我們借用不同的數(shù)據(jù)結(jié)構(gòu)提出了不同的矩陣分解方法，用來解決實

2、際問題。本文的主要工作和貢獻(xiàn)在下面幾個方面:
　　1.針對數(shù)據(jù)表示中存在的問題，提出了一種坐標(biāo)排序正則化非負(fù)矩陣分解方法，以更好的利用數(shù)據(jù)的全局流形幾何結(jié)構(gòu)。這個方法的主要思想是結(jié)合非負(fù)矩陣分解和流形排序方法來同時利用數(shù)據(jù)的局部和全局幾何結(jié)構(gòu)。在真實數(shù)據(jù)上的實驗結(jié)果說明了所提出算法的優(yōu)越性。
　　2.針對科學(xué)文章推薦存在的問題，提出了一種主題回歸矩陣分解模型。這種分解模型主要是使用概率主題建模對矩陣分解進(jìn)行拓展。主題回歸矩陣

3、分解模型通過引入一個回歸模型對用戶隱藏變量進(jìn)行正則化，這種正則化是基于一個假設(shè):評價過相似項目的用戶有著相似的偏好。進(jìn)一步，主題回歸矩陣分解模型可以為用戶和項目提供可解釋的隱藏變量,并且可以為社區(qū)用戶作出準(zhǔn)確的預(yù)測。此外，我們在CiteULike網(wǎng)站提供的一個較大的真實數(shù)據(jù)集上驗證了算法的效率。實驗結(jié)果表明本算法在性能上要優(yōu)于現(xiàn)有的代表性算法。
　　3.針對科學(xué)文章中存在相關(guān)性結(jié)構(gòu)的問題，我們提出了主題回歸多矩陣分解模型。這種分解

4、模型可以將主題回歸模型和相關(guān)性矩陣分解結(jié)合起來。此外，我們還提出了帶有相關(guān)性矩陣分解的協(xié)同主題回歸模型，此模型可以作為主題回歸多矩陣分解模型的基準(zhǔn)比較算法。同樣,我們在CiteULike網(wǎng)站提供的一個較大的真實數(shù)據(jù)集上驗證了算法的效率。實驗結(jié)果表明主題回歸多矩陣分解模型要優(yōu)于其他現(xiàn)有的代表性算法。
　　4.針對標(biāo)注問題中訓(xùn)練集有限且含有噪聲問題，我們提出了多標(biāo)簽約束的半?yún)?shù)正則支持向量機(jī)方法。這種方法可以通過半?yún)?shù)正則利用已標(biāo)注和