基于SVM和半監(jiān)督學習的短文本分類算法研究.pdf

1、隨著互聯(lián)網(wǎng)時代的到來，網(wǎng)絡(luò)上各種文本的數(shù)據(jù)量呈爆發(fā)式的增長。其中，短文本形式的文本也逐漸成為主流的文本形式。面對大量的短文本，如何高效的獲取其中有效的信息，是如今數(shù)據(jù)挖掘中的新熱點，而在短文本中挖掘出有效信息，就需要有效的短文本分類算法作基礎(chǔ)。
　　然而以往的一些文本分類算法主要是用來對長文本進行分類的，例如K近鄰（K-Nearest Neighbor，KNN）、支持向量機(Support Vector Machines，SVM)

2、、樸素貝葉斯(Naive Bayes，NB)等，由于短文本具有實時性、稀疏性、不規(guī)則性等特點，這些適用于長文本分類的分類算法并不能直接拿來對短文本進行分類，因此，需要一種適合短文本分類的分類算法來對如今網(wǎng)絡(luò)上大量的短文本進行數(shù)據(jù)挖掘。本文針對短文本的特點重點做了以下工作:
　　首先，本文提出了一種基于自監(jiān)督的半監(jiān)督學習短文本預處理方法。首先需要對收集的樣本進行預處理，以去掉一些噪聲干擾。通過對訓練集的迭代訓練，將未標注的樣本分類并

3、學習，直到樣本完全被標注。這種方法有效的解決了預處理時噪聲樣本不足而導致預處理效果不理想的問題。
　　其次，本文提出了一種基于半監(jiān)督學習和搜索引擎的自選擇短文本特征擴展方法，該方法針對基于自選擇的特征擴展方法對短文本不規(guī)則性問題的忽略，引入了半監(jiān)督學習和搜索引擎的方法，通過半監(jiān)督學習的迭代訓練和搜索引擎龐大的知識庫，解決短文本的不規(guī)則性問題。
　　最后，本文提出了一種基于SVM和半監(jiān)督學習(Semi-supervised L

4、earning and Support Vector Machines，SLAS)的短文本分類算法。普通的SVM對短文本的分類效果并不是很理想，而本文提出的基于SVM和半監(jiān)督學習的短文本分類算法有效的解決了短文本的特征稀疏和不規(guī)則的問題，擴充了數(shù)據(jù)字典中的標注樣本，接著在SLAS的基礎(chǔ)上，本文提出了SLAS-C短文本分類算法。該方法結(jié)合了分類回歸樹，利用Gini指數(shù)改進分類模型，解決了SLAS在分類效率上提升不明顯的問題。實驗結(jié)果中本文