面向遷移學(xué)習(xí)的文本特征提取.pdf

1、隨著互聯(lián)網(wǎng)的發(fā)展，有越來越多的信息以文本的方式存儲在網(wǎng)絡(luò)上，成為人們獲取信息的來源。當(dāng)人們面對網(wǎng)絡(luò)--這個巨大的文本庫，急需一種高效的技術(shù)手段來幫助人們對這個文本庫中的文本進(jìn)行整理，對其中的信息進(jìn)行挖掘。文本挖掘應(yīng)運而生。文本分類是文本挖掘中一項重要的技術(shù)，在現(xiàn)實中也有著廣泛的應(yīng)用。在文本分類中，二分類問題有著重要的地位。許多現(xiàn)實問題，例如垃圾郵件的過濾，國家敏感信息的刪除，在本質(zhì)上都是一個文本二分類的問題。
　　 除了文本數(shù)量

2、的巨大，互聯(lián)網(wǎng)上的信息還有一個重要的特點，那就是它的內(nèi)容更新速度快。在互聯(lián)網(wǎng)上，每時每刻都有新的內(nèi)容出現(xiàn)，并且很可能在短時間內(nèi)成為人們關(guān)注的焦點。在這種情況下，傳統(tǒng)的機器學(xué)習(xí)方法都面臨一個嚴(yán)峻的問題，那就是訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)不再服從相同的分布。從網(wǎng)上搜集到數(shù)據(jù)，對這些數(shù)據(jù)進(jìn)行了辛苦的標(biāo)注，再在這些數(shù)據(jù)上訓(xùn)練出一個分類器，而當(dāng)將這個分類器應(yīng)用于現(xiàn)實時，卻發(fā)現(xiàn)原來所用的數(shù)據(jù)已經(jīng)過時，面對新的內(nèi)容，分類器已失去它的意義。遷移學(xué)習(xí)能夠有效解決這

3、個問題。它不要求訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)服從相同分布，而是試圖盡量多的去利用那些看起來已經(jīng)過時的舊數(shù)據(jù)，幫助少量的新數(shù)據(jù)去建立一個能夠在新數(shù)據(jù)上有很好表現(xiàn)的分類器。目前已經(jīng)有越來越多的研究者參與到了遷移學(xué)習(xí)的研究當(dāng)中。
　　 本文以文本二分類問題為背景，對遷移學(xué)習(xí)在文本分類中的應(yīng)用進(jìn)行了實驗。在實驗中發(fā)現(xiàn)了現(xiàn)有特征提取算法的不足，問題產(chǎn)生的原因就是在大多數(shù)使用遷移學(xué)習(xí)算法的情況下，訓(xùn)練集中普遍存在數(shù)據(jù)偏斜的問題。本文主要研究了在文本分