基于特征空間變換的半監(jiān)督學習.pdf

1、半監(jiān)督學習旨在僅有少量標注數(shù)據(jù)集和大量未標注數(shù)據(jù)集的基礎上獲得一個良好的學習器。其中，協(xié)同訓練算法是半監(jiān)督學習領域最重要的算法之一。該算法的大體思想是先利用極少的訓練數(shù)據(jù)分別在兩個特征集合上訓練兩個分類器，然后每個分類器對每個未標記數(shù)據(jù)進行分類，并從中挑選出置信度最高的p個正例數(shù)據(jù)和n個負例數(shù)據(jù)作為新的訓練數(shù)據(jù)加到對方分類器的訓練數(shù)據(jù)集中，使得對方分類器根據(jù)新訓練集進行更新。根據(jù)理論分析，上述過程不斷迭代重復能使得分類器逐漸由弱變強。

2、 然而協(xié)同訓練算法的局限性在于它需要兩個在充分訓練集下足夠優(yōu)秀，且相互獨立的特征集。而在現(xiàn)實世界中，滿足如此兩個苛刻約束的問題十分罕見。針對協(xié)同訓練的局限性，本文做了比較有效的工作以滿足兩個約束條件。它的主要思路是將源數(shù)據(jù)集經(jīng)過K-L變換映射到一個各維互相正交的正交空間中，然后應用某種劃分算法將轉換后的數(shù)據(jù)集特征集合劃分成兩個滿足協(xié)同訓練約束條件的高質量的子集合，本章介紹了兩種特征集合的劃分方法，分別是：貪心的劃分算法和能量差驅動

3、方法。為了衡量子集合的質量，我們定義了一個基于特征值的能量函數(shù)。試驗結果表明該方法取得了良好的分類效果。此外，注意到協(xié)同訓練的研究主要集中在分類問題上，本文又提出了一種新的協(xié)同訓練的回歸算法(SSRFT)。在這種算法中，除了利用已有的基于特征空間變換的劃分方法得到兩個滿足約束條件的特征集外，針對回歸問題中需要兩個差異性較大的回歸器的約束條件，利用了兩個迥異的回歸器。同時，將此算法應用到了信息檢索領域取得了較理想的效果。實驗結果證明基于S