基于半監(jiān)督的SVM遷移學(xué)習(xí)文本分類方法.pdf

1、隨著互聯(lián)網(wǎng)的快速發(fā)展，各種信息風(fēng)靡網(wǎng)絡(luò)，而這些網(wǎng)絡(luò)信息主要通過文本的形式來表達，因此對文本數(shù)據(jù)進行合理有效的處理是十分必要的。文本分類是進行信息挖掘的一種重要數(shù)據(jù)分析方法，它能夠從數(shù)據(jù)中挖掘關(guān)鍵信息并構(gòu)建模型，使計算機從過去的數(shù)據(jù)中獲取知識，解決問題。
　　傳統(tǒng)的文本分類方法在要求有充足標注數(shù)據(jù)訓(xùn)練模型的同時還要求訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)屬于同一分布。支持向量機(SVM)作為常用文本分類方法之一，特別適合處理像文本這樣的數(shù)據(jù)集較大的分類

2、問題。然而，SVM在處理分類問題時也常會因為訓(xùn)練樣本不充分而無法學(xué)習(xí)到高精度的分類模型。近年來，在SVM算法中引入半監(jiān)督學(xué)習(xí)模式，利用大量未標注數(shù)據(jù)與少量標注數(shù)據(jù)共同訓(xùn)練分類器，在一定程度上解決了訓(xùn)練數(shù)據(jù)不充分的問題，但半監(jiān)督學(xué)習(xí)仍需滿足訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)同分布假設(shè)。遷移學(xué)習(xí)是最近興起的一種有效解決上述問題的學(xué)習(xí)方式，其可以利用相似領(lǐng)域中大量標注數(shù)據(jù)來幫助新領(lǐng)域目標任務(wù)的學(xué)習(xí)。于是在SVM中引入遷移學(xué)習(xí)，在提供大量標注數(shù)據(jù)的同時還放寬了

3、對數(shù)據(jù)分布的要求。
　　本文通過結(jié)合遷移學(xué)習(xí)和半監(jiān)督學(xué)習(xí)來研究文本分類問題，主要研究內(nèi)容如下:
　　(1)針對傳統(tǒng)有監(jiān)督SVM文本分類方法的不足，詳細描述了半監(jiān)督式的自訓(xùn)練SVM分類方法，包括其基本思想、具體流程以及存在的缺陷。
　　(2)針對以往SVM遷移學(xué)習(xí)方法在訓(xùn)練過程中大量遷移與目標數(shù)據(jù)很不相似的源領(lǐng)域數(shù)據(jù)的問題，提出了一種利用源域支持向量進行相似遷移的方法。該方法先利用源領(lǐng)域訓(xùn)練得到的支持向量代表源領(lǐng)域數(shù)據(jù)，

4、再利用源域支持向量與目標訓(xùn)練集的相似度來衡量源域數(shù)據(jù)的重要性，進而有效的對源領(lǐng)域知識進行遷移。
　　(3)考慮到未標注數(shù)據(jù)可能包含有對分類起重要作用的信息，提出了結(jié)合目標領(lǐng)域未標注數(shù)據(jù)共同學(xué)習(xí)分類模型的基于半監(jiān)督的SVM遷移學(xué)習(xí)分類方法。該方法以SVM遷移模型為基礎(chǔ)分類器，給未標注數(shù)據(jù)帶上初始標簽并共同學(xué)習(xí)分類模型，進一步提高了分類器性能。
　　將本文提出的SVM遷移學(xué)習(xí)方法以及基于半監(jiān)督的SVM遷移學(xué)習(xí)方法與傳統(tǒng)的SVM方