基于TrI-training的半監(jiān)督學習算法研究.pdf

1、半監(jiān)督學習是一種應用驅動而產生的機器學習方法，已經成為人工智能和模式識別領域的研究熱點之一。作為該領域的主要分支，半監(jiān)督聚類將給定的少量監(jiān)督信息引入最優(yōu)聚類的搜索過程中，來改善算法性能;半監(jiān)督分類試圖挖掘無標記樣本所隱含的有用信息來輔助分類器的訓練。近年來，研究學者們不斷提出了各種半監(jiān)督聚類或分類方法，并將其應用于自然語言處理、圖像處理和生物特征識別等實際領域中。
　　Tri-training算法作為協(xié)同訓練機制的代表性算法，雖然

2、能夠利用分類器完成對無標記樣本的標注，但是它需要給定足夠多的有標記樣本來保證初始得到的分類器具有較大的差異性，同時也無法處理監(jiān)督信息中包含成對約束的情形。
　　因此，鑒于上述不足，本文以Tri-training算法為出發(fā)點，研究當給定不同形式的監(jiān)督信息時，如何有效選取并標注無標記樣本，來實現(xiàn)半監(jiān)督聚類和半監(jiān)督分類。
　　主要內容包括以下三個方面:
　　(1)針對監(jiān)督信息中既給定有標記樣本又包含成對約束的情形，設計了一種

3、基于Tri-training的半監(jiān)督聚類算法。該算法首先結合Tri-training方法，選取某些無標記樣本并提供類別標記，來增加原始有標記樣本的數量;然后利用樣本間的約束關系來優(yōu)化擴充得到的有標記樣本集，以改善其質量;最后根據優(yōu)化后的有標記樣本集來獲取K-Means算法所需的類中心，同時在聚類的過程中，運用成對約束對每一次的劃分結果進行調整。通過與K-Means、Seeded-K-Means和COP-K-Means算法的比較實驗表明，

4、提出的算法能夠充分利用給定的監(jiān)督信息，并得到較好的聚類結果。
　　(2)針對監(jiān)督信息中只給定少量有標記樣本的情形，提出了一種基于Tri-training和少量標記樣本的主動半監(jiān)督分類算法。該算法借鑒主動學習思想，從無標記樣本集中選取最有可能被錯誤標記和最有可能代表類特征的樣本，交由專家用戶進行標注，來增加原始有標記樣本的數量。對比實驗表明，當給定的初始有標記樣本數量很少，Tri-training算法無法取得滿意的效果時，提出的算法

5、能夠獲得具有較好分類能力的學習模型。
　　(3)針對監(jiān)督信息中只給定成對約束的情形，給出了一種基于Tri-training和成對約束的主動半監(jiān)督分類算法。該算法運用樣本間的約束關系從中選擇有價值的樣本交由專家用戶進行標注，來得到有標記樣本集;同時在半監(jiān)督分類的過程中，利用成對約束優(yōu)化每次用于重新訓練分類器的有標記樣本集，以提高數據使用的安全性。實驗結果表明，與Tri-training方法相比，提出的算法能夠有效處理監(jiān)督信息包含成對