LDA模型的研究及其在推薦系統(tǒng)中的應(yīng)用.pdf

1、主題模型是用來發(fā)現(xiàn)文章中隱藏的主題的一種統(tǒng)計(jì)方法，這是一種應(yīng)用范圍十分廣的生成模型。該模型假設(shè)每個(gè)文檔里存在很多個(gè)隱藏的主題，而由于文檔的性質(zhì)和類別不同，使得每篇文章的主題分布情況是不同的。主題模型就是利用文章的這個(gè)特點(diǎn)，根據(jù)每篇文章的主題分布建立模型。主題模型的應(yīng)用范圍十分的廣泛，而且在許多領(lǐng)域的應(yīng)用效果也十分的顯著。本文就是以LDA(Latent Dirichlet Analysis)主題模型為研究對象，針對模型的改進(jìn)和模型參數(shù)的估

2、計(jì)進(jìn)行了進(jìn)一步研究。
　　首先，考慮到在電子商務(wù)中在購買商品之后還可以對所購買的商品進(jìn)行評分。所以，我們對LDA模型進(jìn)行了改進(jìn)，加入了對商品的評分。并且，針對離散型評分和連續(xù)型評分我們分別對LDA模型進(jìn)行了改進(jìn)，然后用變分EM算法進(jìn)行了參數(shù)估計(jì)。
　　其次，由于在對改進(jìn)后的LDA模型用變分EM算法進(jìn)行參數(shù)估計(jì)的過程中，我們發(fā)現(xiàn)目標(biāo)函數(shù)的下界是我們假設(shè)的變分分布的熵。而熵表示的是隨機(jī)變量的不確定性，即我們假設(shè)的變分分布的不確定

3、性。由此，我們提出用TEM(Tempered Expectation Maximization)算法對模型進(jìn)行參數(shù)估計(jì)。該算法通過對目標(biāo)函數(shù)的中的熵除以一個(gè)參數(shù)τ，從而降低由于假設(shè)的變分分布的不確定性而對模型造成的影響。
　　最后，我們將改進(jìn)后的LDA模型應(yīng)用到MovieLens數(shù)據(jù)集上進(jìn)行驗(yàn)證，并通過交叉驗(yàn)證的方法與基于用戶的協(xié)同過濾以及PLSA模型進(jìn)行對比。得到改進(jìn)后的模型效果優(yōu)于其他模型，而這兩種模型中，連續(xù)型數(shù)據(jù)的模型效果